нужно написать математическую сказку как правильно пишется нуль или ноль?

Можно и так, и так. "Нуль" - более старое слово, известное еще с времен Петра 1. "Ноль" - более современное. Хотя в Именительном и Винительном падежах предпочтительнее использовать слово "ноль", во всех остальных писать только с -у: равняется нулю, держится на нуле