какой битрейт правильно ставить при конвертации файла h.264 в vob?

Оригинальный

не менее 6000

не более 9000, больше DVD стандарт не позволяет. И что это за чудо, конвертирующее сразу в VOB? VOB вообще то часть DVD проекта и сам по себе не имеет смысла.

8000 хватает выше крыши

Интересно, а как это Н264 напрямую в VOB собрались трамбовать? Придётся в MPEG2PS пережевать.

9,5 мб/с суммарный. Качество будет хорошее.

8500-это то что точно потянет любой ДВД. Вообще допускается до 9000.

6-7 Мбит достаточно. Но надо учитывать, что в VOB разрешение может быть не более 720х576