Зачем нужны видеокарты такие как titan, quadro rtx 8000 и т.п.?

Титан идет как профессиональная карта, там где нужна чисто голая мощь. Титан-это все типы карт, сложенные вместе. Они обычно огромны, очень требовательны к питанию, очень редки из-за цены и специфики, но имеют огромный потенциал.
4090-это игровая, она рассчитана на ФПС в играх.
Quadro-рабочая карта, они не бывают особо мощными. В основном-они для работы над 3Д графикой, созданием модели, быстрым рендером и прочим.
А есть еще карты Тесла Нвидиа, они для станций, научных исследований, где надо ввести паралелльную обработку данных.

Вот яркие примеры разницы между Титаном свежего поколения и 4090.

Титан 4090
48 гб видеопамяти 24гб видеопамяти

Количество потоковых процессоров: 18432 16384
Технологический процесс: 4 нм 5 нм
Энергопотребление (TDP): 800 Вт 450 Вт
Толщина: 4x-slot 3 слота
Дополнительные разъемы питания: 2x 16-pin 1x 16-pin


Потому его и называют Титаном: наряду с огромным потанцевалом во всем-требует сборку, ценою как крыло от Боинга, за счет такой же огромной прожорливости.

Если ты не вкурил, Титан-это как Роллс-Ройс, 4090-типа Мерседеса B-класса, Квадро-это Фольксваген Кэдди, а Нвидиа Тесла-как Спринтер с телегой сзади.

Роллс-Ройс не поедет так быстро, как делает Мерс, но ему оно не надо. Фольксваген Кэдди не едет так быстро, как делает Мерс, но он тянет груз до 1200 кг, чего не Мерс.
Нвидиа Тесла-вообще несравнима, так как стоит особняком. Это уже узконаправленный продукт, с ним нельзя спориться.