Как определяется в каком порядке указываются химические элементы в формуле молекулы?

Вещество органическое или неорганическое? Если неорганическое, то сначала идет катион, а затем анион, это можно посмотреть по таблице растворимости (катионы с +, анионы с -). Есть еще проще вариант, это понять к какому классу относится вещество:

Оксиды

Сначала стоит элемент, а потом кислород в с.о. -2 (Al2O3, CO2, SiO2…)

Кислоты

Сначала стоит водород, а затем кислотный остаток (H2SO4, HCL, H2CO3…)

Гидроксиды

Сначала стоит элемент, а потом гидроксогруппа OH (NaOH, Cu(OH)2, Fe(OH)3…)

Соли

Сначала стоит металл (или аммоний NH4), а затем кислотный остаток ( CuSO4, NaCl, NH4NO3)

Если речь идет про органические вещества, то стоит начать с их определения. Они все состоят из атома углерода. Здесь довольно много тонкостей, если будет нужно, я распишу.