Где ошибка в решении системы методом Гаусса

вы реально только печатными буквами писать умеете?
зачем постоянно перегонять в правильные дроби? и откуда дроби вообще...
никто не обязывает вычитать из строк первую умноженную или делённую на что-то... вы можете для этого использовать что какую УДОБНО строку...