эту функцию можно использовать только в поддерживаемой игре (Nvidia GeForce Freestyle)

Решение найдено
Первый этап. Удаление текущих графических драйверов:

- Загрузите специальную программу для удаления драйвера NVIDIA - Display Driver Uninstaller (DDU), пройдя по ссылке:
www.guru3d.com/files-get/display-driver-uninstal..
- Распакуйте файл;
- Запустите систему в безопасном режиме;
- Запустите программу и выберите все файлы NVIDIA в правой стороне (они уже могут быть выбраны);
- Нажмите кнопку "Удалить и перезагрузить".
Второй этап. Скачивание и установка драйверов:

- Перейдите по ссылке:
www.nvidia.ru/download/driverResults.aspx/129161..
- Нажмите на кнопку "Загрузить сейчас". На следующей странице нажмите "Принять и скачать".
- После завершения процесса скачивания, установите файл с помощью выборочной установки.
- Начните установку и выберите выборочную установку, затем поставьте галочки рядом со всеми компонентами и с пунктом "чистая установка" и пройдите процесс установки.
- Запустите компьютер снова после завершения установки.
После того, как Вы выполните эти действия, также включите экспериментальные функции в GeForce Experience и проверьте работу фильтров в поддерживаемых играх (CS:GO/PUBG).

УРА! я сделал.
Надо скачать Nvidia Profile Inspector 2.1.3.10 вот ссылка https://www.filecluster.com/downloads/Nvidia-Profile-Inspector.html
1) выбираете игры какую вам надо
2) листаете в низ, та будет Other
3) Ansel flags for enabled applications
4) нажимаете на стрелку и последнее выбираете
5) Apply changes
мне помогло

Победил Freestyle! Ноутбук карта GTX 960m.
1. Удалил имеющийся драйвер и всё что есть от инвидиа (кроме папки с драйверами) через DDU (ссылки и алгоритм выше);
2. Скачал с сайта nVidia предыдущий драйвер 390.77 сылка на поиск http://www.nvidia.ru/Download/Find.aspx?lang=ru
И GF Experience Beta 3.13.0.85 https://www.nvidia.ru/geforce/geforce-experience/beta/
3. При установке сделал чистую установку БЕЗ Experience
4. Перезагрузил
5. Установил Experience и включил экспериментальные функции
6. Запустил игру и через Alt+F3 заработала.

ЗЫ При запуске игры, если сразу вызвать freestyle может появиться сообщение о неподдерживаемой игре (PUBG), но так же через секунду появятся настройки freestyle.