В каком формате лучше перенести видео с VHS-кассеты на DVD диск , что бы было отличное качество ?

Начнем с того, что AVI не является видеоформатом, а всего лишь контейнером, в котором упакованы аудио- и видео- потоки. Качество и степень сжатия напрямую будут зависеть от использованных кодеков. VOB - контейнер, использующий кодек Mpeg2, совместимый с DVD-Video. Файлы WMV хоть и принадлежат к Mpeg4, не будут воспроизводиться стационарным DVD-проигрывателем. Вообще, на высоких скоростях передачи данных (более 5 Мб/сек) , кодеки Mpeg4 (DivX, XviD) себя не оправдывают. Исключение составляет видеокодек высокой четкости H264. Но если у вас не Blu-Ray проигрыватель, его не стоит брать во внимание, тем более, что входное видео VHS имеет очень низкое качество. Кроме того, если запись на кассету произведена в PAL, вы столкнетесь с таким понятием, как черезстрочность. По умолчанию кодеки Mpeg4 работают с прогрессивной разверткой, а фильтры деинтерлейсинга, как правило, лишают видео плавности. Исходя из всего сказанного, делаем вывод - кодируем контент VHS в Mpeg2. Битрейт 8000 - 10000 кбит/сек позволит без видимой потери качества создать DVD-совместимый видеофайл. Звук - по выбору: AC3 или MP2. В вашем случае я бы порекомендовал последнее.