Какой формат видео даёт наилучшее качество?

при декодировании качество ухудшается, из говна конфетку не слепишь. На самом деле качество видео зависит от используемого кодека, коих насчитывается десятки. И любой, кроме парочки последних, из перечисленных файлов может выдать отличную картинку при правильной постановки битрейта и разрешения. А вообще, обычно высококачественные фильмы кодируют в mkv - matroska, из за очень широких возможностей этого формата.