Как решать такие задачи?

Может, есть специальная формула, не знаю. Но вот как можно сделать "в лоб".
Возьми конечную матрицу данного типа и найди ей обратную, это несложно. Алгоритм станет понятен. Например, для первой матрицы n x n обратная матрица:
n n-1 ........3 2 1
n-1 n-2 3 2 1
.
2 2 2 ...........2 2 1
1 1 1 .........1 1 1
То есть таким уголочком.