Что лучше BDRip или Blu-Ray Remux?

Remux
но он очень большой

Смотря какая цель

Remux - это пересобранный BR диск, из которого исключены лишние дорожки (озвучки, титры и т.п.). Видео и аудио не пережато. BDRip - это пережатый BR. То есть Remux лучше.

1. ReMux - это полностью *оригинальное* видео с удалёнными вспомогательными материалами. Уменьшение размера только из-за этих удалённых "лишних" данных, и типичный размер таких видео - десятки гигабайт.
2. BDRip - это "пережатое" (типично - кодеком H264/H265) и, возможно, ещё и с уменьшенным разрешением видео в контейнере MKV/MP4. Оно всегда(!) хуже исходника на диске, а вот насколько - тема отдельная: при достаточно высоком битрейте картинка может быть *визуально* не отличима - за счёт большей эффективности используемых кодеков. И результирующие файлы - *значительно*, даже при очень высоком качестве - раз в десять, меньше исходных.