Как максимально сохранить качество видео при рендеринге в Sony Vegas?

При работе с крупными сервисами надо читать их FAQ!
Там всё написано. https://support.google.com/youtube/answer/1722171?hl=ru

Какой-то вообще не понятный рендер, старый вегас видимо, скачай 13-й или 14-й. Выбирай там из готовых шаблонов, поменять надо только битрейт и частоту (по-умолчанию там обычно 30 кадров). А ты тут накрутил хер пойми что.

у тебя захват с 78 фпс - это полная ересь. Исходное видео должно иметь фпс выходного или кратный, т. к. преобразование некратных кадровых частот приводит к сильному ухудшению качества видео. То есть захватывай с 60 фпс (это лучше всего) или хотя бы 30.

Интересно, судя по второму скрину, а что мы хотим от кодека х263? Уменьшения веса видео? Тогда нечего и спрашивать про каКчество.
Цитирую (проще не объяснить): "...стандарт сжатия видео, предназначенный для передачи видео по каналам с довольно низкой пропускной способностью...", т. е. там каКчество не важно, лишь бы было что-то различимо. На этом кодеке, грубо говоря, даже FLV первого поколения и 3GP древних телефонов работают.
При этом в первой строке настроек вывода видео задаём прогрессив, а во второй зачем-то уже интерлейс (двойной NTSC), а у прогрессива нижняя строка должна быть старшей (первой). Получается, что тело конфликтует с организЬмой.
Плюсуем сюда глюки собственных кодеков Бандита, про которые давно известно.

Установи Magix Vegas 14:
http://pooshock.ru/soft/videoedit/3825-magix-vegas-pro-1400244-repack.html
Установки для вывода видео:

Там же в пресетах для непонятливых специально есть Internet 1080, 720, 480 для YouTube