Во-первых, уже правильно говорили, что знак равенства в уравнении нужно вводить через Ctrl = (он должен быть жирным, и в примере это видно) .
Во-вторых, если вы задали альфу как функцию от трёх аргументов, то и в уравнении её надо писать так же, то есть со скобками, в которых перечислены аргументы. Ну, или сразу писать там матрицу, как было сделано в примере.

Когда я делаю тоже самое, появляется ошибка, что значения не является скаляром:
Как исправить? Помогите, пожалуйста.