даны 2 вектора найти 3 вектор ортогональный им

балл

Задача имеет два решения. Вот одно из них: x = -1/14*sqrt(14), y = 1/7*sqrt(14), z = 3/14*sqrt(14)

Сначала надо найти ортогональный вектор. Для этого считаем векторное произведение.
Вычисляем определитель: ((1; -1; 1);(5; 1; 1);(i; j; k)) = - 2i + 4j + 6k
То есть вектор, ортогональный двум данным, равен (-2; 4; 6).
Теперь нужно этот найденный вектор укоротить до длины 1.
√((2λ)²+(4λ)²+(6λ)²)=1;
√(56λ²) = 1; λ=±1/√56 = ±1/(2√14)
±1/(2√14) * (-2; 4; 6) = ±(-1; 2; 3)/√14 = ±(-1/√14; 2/√14; 3/√14) - это два решения.