Площадь именно этой фигуры:
S = Площадь_Прямоугольника - 1/2 * Площадь_окружности
Если делать более универсально:
Делим нашу фигуру на N -частей вертикальными прямыми;
(чем больше N - тем будет точнее результат)
Находим точки пересечений наших прямых и контуров фигуры;
(используем методику изложенную в книге Ласло, "Вычислительная геометрия и компьютерная графика на С++")
Сумма площадей всех прямоугольников образованных
нашими линиями и контуром будет площадью фигуры.
По теме :
Вычисление площадей плоских фигур с помощью определённого интеграла
https://interneturok.ru/lesson/algebra/11-klass/integralb/vychislenie-ploschadey-ploskih-figur-s-pomoschyu-opredelyonnogo-integralaОпределенный интеграл. Как вычислить площадь фигуры
http://www.mathprofi.ru/vychislenie_ploshadi_c_pomoshju_opredelennogo_integrala.html