В полукруг радиуса R=(5корень квад. из 2) вписывают прямоугольник.

Впишем прямоугольник в полуокружность. Одна сторона (две вершины) прямоугольника лежит на диаметре, а две другие вершины на окружности (естественно, что симметрично) . Обозначим длину прямоугольника (а) , а высоту прямоугольника (h). Площадь прямоугольника S=a*h. Проведем радиус из центра к одной из вершин, лежащих на окружности. Получим прямоугольный треугольник. Один катет h, другой (а/2). По Пифагору имеем: (а/2)^2=R^2-h^2=50-h^2, a=2*sqrt(50-h^2), S=2*h*sqrt(50-h^2).
Теперь нужно найти производную от S по h, приравнять ее нулю и решить полученное уравнение. Получим значение (h), при котором площадь будет максимальной.
S'=2*(1*sqrt(50-h^2)+h*(1/(2*sqrt(50-h^2))*(-2*h))=2*((50-h^2)-h^2)/(sqrt(50-h^2))=0
50-2*h^2=0, h^2=25, h=5.