Как создавали формулы?Например, формула площади круга?Как люди понимали,что именно так надо решать,а не иначе?

Для определения площади круга в него догадались вписывать правильные многоугольники. Сначала вписали в круг треугольник. Площадь треугольника подсчитывается по формуле, но остаются достаточно большие куски круга, не покрытые треугольником. Затем число вершин многоугольника удвоили - вместо каждой стороны нарисовали ещё по углу и две стороны. Стал шестиугольник. Он уже плотнее прилегает к кругу, кусков, не покрытых им, меньше, значит, его площадь точнее приближается к площади круга. И так далее, удваивая количество вершин правильного многоугольника, который вписывали в круг, и подсчитывая площадь этого многоугольника, всё приближались к площади круга. Потом доказали, что точно вычислить это число пи нельзя. Вот так и по сей день число пи с нужной точностью вычисляют каждый раз, используя похожие методы.

Посмотрите в интернете подробнее - всё это можно найти, если захотеть.