http://math.hashcode.ru/questions/12877/матрица-ранг-расширенной-матрицы "Есть система линейных уравнений. Выпишите коэффициенты при неизвестных и столбик свободных членов и найдите ранг полученной матрицы. Это и будет ранг РАСШИРЕННОЙ матрицы. Если ранг расширенной матрицы равен рангу основной матрицы (из коэффициентов при неизвестных), то система совместна, при этом, если эти (равные) ранги равны количеству неизвестных, то система имеет единственное решение, если меньше числа неизвестных, то имеет бесконечное число решений. Если ранг расширенной матрицы больше ранга основной, система несовместна."