Как решать матричное уравнение,если обратной матрицы не существует,тобишь определитель равен нулю?

Возможно решений множество - решение получится в параметрическом виде (зависит от нескольких параметров) . Если N - размерность матрицы, а ранг R, то параметров будет N-R штук. Рещать можно методом исключения Гаусса (Жордана) - пытаетесь привести систему к треугольному виду путем умножения строк на подходящую константу и сложением-вычитанием строк, так, чтобы под диагональю получались нули, столбцы можно переставлять (но номер надо запомнить! ) . Получится либо полностью треугольная матрица (R=N), либо где-то оборвется (нулевые строки получатся) . Тогда их треугольной матрицы легко выражаются диагональные элементы "обратным ходом" - снизу вверх. Одни переменные будут зависеть от других, которые можно принять произвольными или "свободными параметрами". Решение (если подставить) будет решением, т. е. превратит уравнения в тождество. Это ведь и требуется, а неравенство определителя нудю - не есть решение, это признак единственного решения