Почему в программировании применяют шестнадцатеричную систему счисления вместо двоичной или десятичной?

Проще записывать.

Минимально возможная ячейка памяти составляет 1 байт (не бит, а именно байт). Ты не можешь просто так обратиться к отдельным битам, не прочитав перед этим целый байт информации. Поэтому удобнее использовать системы счисления, которые будут кратны не 10, и не просто степени двойки, а 8 или 16. При 16 просто более компактно все получается. И все вычисления просто становятся удобнее и лучше воспринимаются визуально.
Например, есть число в двоичной системе:
1101 1001 1011 0011
Перевести его в шестнадцатеричную очень просто - берешь каждые 4 разряда и переводишь в отдельный символ:
1101 - D
1001 - 9
1011 - B
0011 - 3
Итог: ‭D9B3‬ (очень компактно и гораздо лучше воспринимается)
Фактически тебе достаточно запомнить 16 двоичных и 16-х чисел.. остальное будет на автомате. А с десятичной системой такое уже не прокатит, и запаришься чего-то там вычислять..
Тоже самое прокатывает с 4-х и 8-ричными системами.. но не с 10-х

Что значит вместо?
Применяют любые системы, какие нужны для решения конкретной задачи.
И десятичную, и двоичную, и шестнадцатеричную. Если нужно, можно и 256ричную применить или же фибоначчиеву.

Каждая цифра 16теричной системы образована из четырех двоичных цифр. 0000(2)=0(16), 0001(2)=1(16)....1111(2) = F(16).

Таким образом, 16теричная запись легко получается из двоичной и наоборот, причем 16теричная в 4 раза короче.

Кто тебе такую херню сказал?
Дай ему в морду он пиздит.

В программировании применяют те СС, которые удобнее для решения тех или иных задач. Например, помимо тобой названных, распространена еще и 8-ричная СС.
Вообще, для человека наиболее удобна таки десятичная СС. Остальные применяют там, где нужно четко считать байты и/или биты, либо выполнять побитовые операции.