Какая файловая лучше при записи диска?

Могу лишь поделиться сведениями, которые мне известны.
ISO 9660 имеет несколько уровней развития (1 - 3). В самом последнем, 3 уровне имеется возможность использовать до 200 с лишним символов (в одних источниках до 207, в других до 221) для имени файла и любое количество вложенных папок на диске. В первом на имя было ограничение в 8 символов и до 8 уровней вложенности. Вероятно ваш плеер должен поддерживать 3 уровень ISO 9660, т. к. появился стандарт достаточно давно.
Joliet позволяет использовать имена файлов с различных алфавитов. То есть, если ваш плеер поддерживает русские буквы, то можете обозвать название фильма как "Крепкий орешек" или "Терминатор" и при установке joliet при записи диска ваш плеер сможет отобразить это название правильно. Если ваш плеер не поддерживает русских букв, то он отобразит какую-нибудь хрень, вроде знаков вопроса вместо имени фильма. В этом случае смысла использовать русские буквы нет и joliet тоже. Тогда называйте фильмы на английском языке: "Die hard", "Terminator".
Также ограничением ISO 9660 является размер одного файла в 2 гигабайта, не больше. Я не проверял на практике, может ли мой плеер читать файлы *.avi размером больше 2 гигабайт. Но скорее всего не сможет.
UDF - universal disk format - пришел на смену ISO 9660 для разметки лазерных дисков. Снято ограничение на размер файла в 2 гигабайта - можно хоть 6-гиговый авишник забросить на двухслойную болванку и без проблем потом воспроизвести. Не знаю, панацея или нет - возможно, не все бытовые плееры понимают UDF.
Потому лучшим вариантом при записи будет выбрать ISO9660 + Joliet + UDF . Какие из этих возможностей доступны вашему плееру, те он сможет использовать. В любом случае проще проверить на практике, чем расписывать теорию и гадать. Мой плеер без проблем читает диски, записанные через UltraIso с поддержкой ISO9660 + Joliet, без UDF. Но мне и не было смысла никогда выставлять UDF, т. к. файлы, что я записывал, имеют объемы меньше 2 гигабайт.