Тебе надо найти области в заданных пределах x [0,1] и у [0,1], в которых гиперболический параболоид
z=x^2+y^2-3*x*y принимает значения больше нуля. То есть, надо найти уравнения сечения этого гиперболоида плоскостью z=0. А затем найти площади областей, сумма этих площадей и будет искомой вероятностью. Приведу тебе иллюстрацию того, что надо сделать:

Голубой цвет - это гиперболический параболоид, синий цвет - плоскость z=0. Ветви гиперболического параболоида слева и справа - это значения z>0. Площадь областей под ветвями параболоида - это и есть искомая вероятность.
Вот тот же вид с другой стороны:

Как видно из рисунка, линии пересечения являются ПРЯМЫМИ, причем симметрично расположенными относительно диагонали квадрата. Тебе надо найти уравнения этих прямых. Дальше все просто - сумма площадей двух треугольников на плоскости z=0 слева и справа даст искомую вероятность. А четырехугольник, включающий центр квадрата - это как раз область, где z<0....
ДивергентВысший разум (1544811)
1 месяц назад
Там же получается:
y1,2=(3*x+/-sqrt(9*x^2-4*x^2))/2=(3+/-sqrt(5))/2*x
Ну, и точка пересечения первой прямой y=(3-sqrt(5))/2*x с прямой x=1 имеет координаты (1;(3-sqrt(5))/2) - получается впрямую, а точка пересечения второй прямой y=(3+sqrt(5))/2*x с прямой y=1 имеет координаты ((3-sqrt(5))/2;1) - получается с небольшим преобразованием:
1=(3+sqrt(5))/2*x
Отсюда х=2/(3+sqrt(5))=(избавляемся от иррациональности в знаменателе)=2*(3-sqrt(5))/(9-5)=(3-sqrt(5))/2
Так что маленькие катеты треугольников имеют длину 0,382. Площадь их по 0,191, а вероятность опять-таки 0,382.
Не спутай.