Погрешность вычисления в Excel

Question

Погрешность вычисления в Excel

Dion Ученик (109), на голосовании 10 лет назад

Почему получается погрешность в вычислении?
Есть список данных, есть коэффициент 1,497:
22,6 делим на 1,497
22,8 делим на 1,497
23,7 делим на 1,497
21,7 делим на 1,497
21,9 делим на 1,497
Сумма полученных данных в excel равна 75,28
Сумма полученных данных на калькуляторе (с округлением до второго знака после запятой) равна 75,29.

Почему при делении 21,7 на 1,497 получается разницы на 0,01, которая дает разницу в вычислении? Почему с другими данными (их более 100) не происходит такого? Что особенного в делении 21,7 на 1,497? Как избежать этой разницы?

Answer 1

Полосатый жираф Алик Искусственный Интеллект (313143) 10 лет назад

112,7 / 1,497 = 75,28390114 Вывод: выкини калькулятор! Или не округляй. Округление может ТАКОГО наделать!!!
Вот пример: складываем 4,4 + 4,4. Округляя каждое слагаемое до целых. Сколько будет? А 8,8 округлить до целых?

DionУченик (109) 10 лет назад

В моем случае округление - это уже свершившийся факт, изменить ничего нельзя. На будущее информация взята на заметку.

Полосатый жираф Алик Искусственный Интеллект (313143) На всякий случай, Excel считает с точностью 16 знаков! Не 16 после запятой, а 16 ЗНАЧАЩИХ цифр. Калькуляторы отдыхают...