Найти общее решение системы дифференциальных уравнений. dx/dt=x-3y dy/dt=3x+y
делишь 2-е уравнение на 1-е и получаешь dy/dx = (3x+y)/(x-3y)
далее преобразуешь к виду dy/dx = (3+y/x)/(1 - 3y/x);
затем вводишь новую переменную r = y/x: y=rx:
d(rx)/dx = (3+r)/(1-3r)
x(dr/dx) + r = (3+r)/(1-3r)
dr/dx = ((3+r)/(1-3r) - r)/x
1/((3+r)/(1-3r) -r)dr = xdx
дальше решай сама - надеюсь знаешь как пользоваться таблицами интегралов
запишем систему в более удобном виде x`=x-3y (1), y`=3x+y (2). из второго х=(y`-y)/3 (3), тогда x`=(y``-y`)/3, подставляем это в первое и получаем y``-y`=3x-9y или после подстановки х имеем y``-2y`+10y=0 - однородное диф. уравнение второй степени. корни его характеристического уравнения k^2-2k+10=0 такие k1=1+3i, k2=1-3i. при двух сопряженных комплексных корнях общее решение имеет вид y=e^at(C1cosbt+C2sinbt). в нашем случае а=1, b=3, тогда y=e^t(C1cos3t+C2sin3t). теперь найди y`, подставляй y` и y в (3), получишь х.
dx/dt=x-3y dy/dt=3x+y
Можно использовать и другой метод.
Дифференцируем первое уравнение :
x"=x'-3y' и подставляем из второго
x"=x'-9x-3y=x'-9x-x+x'
x"-2x'+10x=0
И решаем линейное однородное уравнение.
P.S. Marat Aminov уже дал подобное решение.