Чем открыть файл *.dat для редактирования?

В общем случае: HexView. Шестнадцатеричный редактор.
В особо редких случаях (тип файла не соответствует содержимому) - Дизассемблер.
Файлы типа *.dat - очень, крайне сомнительно, что содержат исполняемый код. Скорее это файл с некими данными.
Но поскольку речь - о прошивке, то тут я бы предположил, что этот файл может открываться специализированным ПО от производителя.