Как проверить совместимость модов в Minecraft?

незнаю

Молча

Почитай логи, там всё написано.

Убирай по несколько модов и когда перестанет вылетать по одному проверяй моды из последних убранных

Как уже сказали выше, читай логи. В них можно легко найти причину сбоя, если иметь в этом хотя бы небольшой опыт.
Когда-то я здесь кратенько описывал, как правильно нужно искать в логах виновника сбоя:
https://otvet.mail.ru/question/230954422

С тех пор появился достаточно хороший актуальный гайд на Вики Legacy, рекомендую воспользоваться им:
https://docs.llaun.ch/troubleshooting/self-repair