Потому, что при умножении матриц мы умножаем, по сути, элементы строки первой матрицы на элементы столбца второй матрицы. И если количество элементов в строке первой матрицы (т. е. количество её столбцов) не будет равно числу элементов в столбце второй матрицы (т. е. количеству её строк), то останутся "лишние" элементы, которые будет не на что умножить. Подробнее о самом правиле смотрите тут:
https://math1.ru/education/matrix/matrixop.html