Как ограничить палитру цветов в фотошопе по определенной гамме цветов?

Фотошоп - умная штука, но не настолько умная, чтобы понимать где и каким цветом красить, чтобы было красиво да еще и с некоторыми условиями, которые выходят за рамки градиента/сплит тонинга.
3D лут - хорошая штука, но работает она по принципу того же градиента только с более сложным алгоритмом анализа цветовой гаммы и распределения ее по кривой.
То, о чем ты говоришь, должно делаться исключительно вручную. т. е. это уже художественные приемы и натуральное рисование. В твоих примерах, как раз, и видно, что картина перерисовывалась 3 раза определенной палитрой.
Просто я тоже задавался подобным вопросом и... Ответ я написал.