Как мне сделать нули в 1 строке матрицы?

Для начала - это не матрица, это определитель :)

Если вы хотите, чтобы все элементы первой строки, кроме одного, обнулились, то для этих целей можно использовать такие операции над столбцами определителя:

c1+4c3
c2-5c3
c4-5c3

Запись c1+4c3 означает, что к элементам первого столбца прибавляются соответствующие элементы третьего столбца, предварительно умноженные на 4. Остальные записи расшифровываются аналогично.