Почему калькулятор так считает?

3*7=21, поэтому в конце 1

потому что он не может записать что 5/3 это 1,(6) и приходится так выкручиваться

а ты и так не можешь

потому что он считает в десятичных дробях.
для точного расчёта в школе учат обыкновенные дроби, не привязанные к системам счисления. пойдёте в пятый класс и вас научат.

видимо деление получается с бесконечной дробью, поэтому обратное действие и не совпадает с начальным отсчетом.

точно так же считает и компьютер