Из всех четырехугольников вписанных в окружности найдите четырехугольник наибольшей площади.

А что тут искать? Площадь четырехугольника равна половине произведения диагоналей на синус угла между ними. Максимальная величина синуса =1 . Это угол 90 градусов.
Максимальная диагональ - это диаметр окружности. Значит из всех четырехугольников вписанных в окружность максимальную площадь имеет вписанный КВАДРАТ.