Объясните пожалуйста как вычитать в восьмеричной системе счисления. Нужно 1437,24-437,4. Не могу найти как решать.

Точно так же, как в десятичной, какие проблемы?
Только помните, что у вас всего 8 цифр, и занимаете вы из старших разрядов не десяток, а восьмерку.

Записываем в столбик и начинаем, как обычно, справа:
4 минус 0 -- пишем 4.
2 минус 4... занимаем из предыдущего разряда восьмерку, получаем 8+2 = 10. 10 - 4 = 6 -- пишем 6.
Ставим запятую.. .
6 минус 7... занимаем восьмерку, получаем 14 - 7 = 7
2 минус 3... 10 - 3 = 7
3 минус 4 ...11 - 4 = 7

Все. Получилось 777,64