Проблемы с SHADOW PLAY, когда начинаю снимать останавливается на одном кадре.

пользуйся амд релайв

попробуй драйвера обновить

Проблема решается множеством путей (это надо смотреть логи и так далее) Но самый распространенный это драйвера обнови их. а вообще пользуйся OBS он оч мало жрет оперативы и качество топовое

нет проблем если не дешевое оборудование смени оптику

Снеси дрова (все displaydriverом) и установи заного. Это типичное кривое обновление для geforce expirience, лучше его никогда не обновлять (достаточно не нажимать на ярлык и желательно в планировщике заданий тоже всё отключить).

Хорошо бы сначала сообщить что за видеокарта и какие настройки записи shadow play
Потом скачать и установить самые свежие драйвера, с галочкой "выполнить чистую установку".
Еще, как уже советовали, можно начать использовать для записи OBS Studio - безглючная, четко работающая прога, потребляющая минимум ресурсов при аппаратной записи.

Попробуйте переустановить драйвера скачав на сайте invidia актуальную версию, во время установки поставьте галочку "Чистая установка"