X1+X2+X3=10 (1/X1)+(1/X2)+(1/X3)=1,5 Как составить матрицу для решения по Крамеру? Матрица не квадратная.

Для составления матрицы для решения системы уравнений по Крамеру, вам необходимо создать три уравнения, соответствующие каждому из переменных X1, X2 и X3. Уравнения должны быть такими, чтобы матрица была квадратной.

У вас и система нелинейная. Метод Крамера здесь не подходит.
Должно получиться множество решений.

Какой Крамер? Система нелинейная.
s1(x1, x2, x3) = x1 + x2 + x3
s2(x, y, z) = x1x2 + x2x3 + x3x1
s3(x, y, z) = x1x2x3
Тогда второе твое уравнение экивалентно
s2/s3 = 1.5

Т.е. x1, x2, x3 - корни кубического уравнения
x^3 - 10x^2 + 1.5C*x - C = 0, C - от балды взятая константа.

Давай возьмем какое-нить значение C и подставим.
Вольфрам, x^3 - 10x^2 + 1.5C*x - C = 0 where C = -2
Говорит, x1 ~= -0.598, x2 ~= 0.325, x3 ~= 10.273
Тыгды -0.598 + 0.325 + 10.273 ~= 10.000, 1/-0.598 + 1/0.325 + 1/10.273 ~= 1.502

Отмечу тута еще, что порядок системы равен произведению порядков уравнений - т.е. твоя система задает кривую второго порядка в трехмерном пространстве. В плоскости x1 + x2 + x3 = 10.
И кривая эта симметрична относительно перестановок трех координат, а, значит, поворотов в своей плоскости на 120 градусов, значит, видать, это окружность, проходящая через точки (10, 0, 0), (0, 10, 0), (0, 0, 10), т.е. с центром в (10/3, 10/3, 10/3) и квадратом радиуса 200/3, но ты проверь, вдруг я ошибаюсь насчет окружности!
(10/3 - -0.598)^2 + (10/3 - 0.325)^2 + (10/3 - 10.273)^2 - это вообще не 200/3 ни разу. Значит, где-то обшибся.