В чём Гамлет ошибся?

А в чем не ошибся?

В постановке своего главного вопроса )))

В том, что не понял своей проблемы - он просто пресытился людьми; нужно было просто перестать с ними общаться на некоторое время.

Перед тем как задать себе вопрос "быть или не быть", ему нужно было выяснить кто убил его отца. Только в конце он узнаёт, что убийца его же дядя, брат отца. Это и стало его роковой ошибкой.

..ни в чем не ошибся, пришел к разуму убив ее!

Ни в чем Гамлет не ошибся. Трагедия "Гамлет" - история его успеха! Это несложно понять, если изучить источник сюжета - "Хроники" Саксона Грамматика.
Подробности см. в ролике исследователя Шекспира Алексея Меняйлова - https://vimeo.com/86442498