Вообще-то просто скачать и установить. Делать его поумолчальным необязательно - это просто для пущего удобства. Браузеры не мешают друг другу - не надо удалять первый, чтобы установить второй. Просто в качестве поумолчального может быть назначен только один. Большинство браузеров сами это увидят и спросят, что делать. Разберётесь.
Я тоже немного добавлю. Действительно по умолчанию новый пока не ставьте, так как вам придется привыкать и вникать из-за отличия браузеров. Mozilla не сильно отличается от IE, а вот Opera будет первое время тяжеловата. Хотя браузер отличный, много плагин и виджеров. Я вот неделю привыкаю. Удачи!