Почему рендеринг на видео карте более грубый чем на процессоре?

Видеокарта не так точно вычисляет, зато в разы быстрее процессора.

Гибридный метод использовать

Потому что утверждение не соответствует действительности.

Результат ЦП и ГП рендера абсолютно одинаковый. Математика всегда работает одинаково.