Вопрос по геометрии, как решить задачу

>> но как посчитать точно не знаю.
Точно посчитать невозможно т. к. Пи иррациональное число и в расчетах используют приближенное значение Пи.

В твоем примере довольно легко найти площадь через разность сегментов.
Точки для сегментов (секущая) легко находятся через решение системы уравнений для двух окружностей.
Из получившихся систем уравнений можно легко вывести формулу площади.

Но мы живем в компьютерную эру и написав довольно простой скрипт для нахождения площади методом Монте-Карло получим результат на пару порядков точнее чем при использовании приближенного значения Пи.