Попробуй
GameCam (версия тут не самая новая, зато с рабочим креком)
Отлично подходит для записи видео из игр. Удобная настройка, возможность установки профиля для каждой игры. Сжимает файлы прям во время записи (вес видео будет приемлемым, а не как во фрапсе - 2 минуты 2 ГБ) , практически не уменьшая производительность.
Внимание. НЕ работает на Висте.