Найти собственные значения и собственные векторы линейного преобразования, заданного в некотором базисе матрицей А

это что-то такого рода:

смысл в том, чтобы найти соотношение между всеми переменными, если допустить, если одна из них константа, например единица, это и будет собственный вектор

в твоём примере сложи 1-ую и 3-ию строчки, там у тебя получится:
-5бетта + 12гамма = 0, т. е. бетта = 12/5гамма,
потом подставь в 1-ое ур-ие 12/5гамма вместо бетты, т. е. там будет так:
4альфа - 12 гамма - 7 гамма = 0,
далее у тебя получится так:
альфа = 19/4гамма,
теперь примем гамму за 20 (для удобства) , получим что:
альфа=95, бетта=48, гамма=20,
вот мы и получили собственный вектор
(95)
(48)
(20)
по-моему так