Лучше читай форумы типа
https://forum.videohelp.com/threads/368496-Number-of-reference-frames-x264 А здесь вопросы задавай в соответствующую категорию
https://otvet.mail.ru/question/224403068 Из MPEG-2 кодировал программой Hybrid
https://www.selur.de/downloads которая привлекает обилием продвинутых фильтров для исправления артефактов исходного видео. Не самая удобная прога, но после многочисленных тестов радовал результат. (после обработки фильтрами, а кодек на пресете Very Slow) Размер и качество зависит от битрейта, от CRF, я не вижу смысла сильно уменьшать размер и терять качество