Если кратко, то разница в том, как именно вы используете разрядную сетку, т. е. как распределяете имеющиеся разряды по функциональному назначению.
Например, в формате с фиксированной запятой хранятся целые числа, т. е. все разряды выделяются только под целую часть (запятая мысленно фиксирована справа от разрядной сетки).
В формате с плавающей точкой все разряды делятся между следующими полями:
- знак мантиссы;
- порядок;
- сама мантисса
подробности про плавающую точку попробуйте почитать тут
http://www.softelectro.ru/ieee754.html