Что-то нажал в фотошопе (около ctrl-shift-[ ) и стало словно эффект постеризации. Шаг истории назад не дает возврата.

Ну дык, сделай два

ctrl+z попробуй должен вернуть

Эта комбинация перекидывает активный слой на задний план. Поэтому она ни при чём!
Косяк в другом. Волшебной кнопки нет, как нет ТОЧНОЙ информации о действиях в программе.
Без ТОЧНОЙ информации не может быть точного ответа.
Если очищена история - ничего сделать нельзя, если не стоит галочка об автосохранении. Если стоит - можно поглядеть бэкап файл - может пригодиться...

возможно режим наложения слоев надо изменить