Y''+2Y'+2Y=Xe^(-X); Y'(0)=Y(0)=0
Yон=Yoo+Yчн
k^2+2*k+2=0
D=-4
k1=-1+i
k2=-1-i
Yoo=e^(-1X) *(C1*cos(X)+C2sin(X))
Yчн=(A*X+B )*e^(-X)
Y'чн=A*e^(-X)+(A*X+B )*e^(-X)
Y''чн=A*e^(-X)+A*e^(-X)+(A*X+B )*e^(-X)
A*e^(-X)+A*e^(-X)+(A*X+B )*e^(-X)+2(A*e^(-X)+(A*X+B )*e^(-X))+2((A*X+B )*e^(-X))
После сокращения:
e*(-X) *(A+A*X+B )=0
A*X=-A-B
X: ?
Xo: ?
Дальше незнаю. Могот быть ошыбки в решении.

до Yчн=(A*X+B )*e^(-X) правильно
а Y'чн=A*e^(-X)+(A*X+B )*e^(-X) нет , производная от e^(-x)=-e^(-x), поэтому
Y'чн=A*e^(-X) - (A*X+B )*e^(-X)

сейчас досчитаю дальше и подскажу

Лучше писать просто Y = Yо + Yч
Непонятно просто, что за н такое.
Yo = e^(-X) * (C1 * cos(X) + C2 * sin(X)) (-1X = -X)

Yч = (A*X+B )*e^(-X)
Y'ч=A*e^(-X)+(A*X+B )*(-e^(-X))

Y''ч=-A*e^(-X)-A*e^(-X)+(A*X+B )*e^(-X)

про y' и у'' уже написали

дальше подставляем в уравнение и после преобразований, получаем е^(-x)*(B+Ax)=x*е^(-x)
отсюда приравнивая коэффициенты при одинаковых степенях х, получим: А=1, В=0
тогда у(ч)=х*е^(-x)
и Y=e^(-X) *(C1*cos(X)+C2sin(X))+х*е^(-x)

Y'=-e^(-X) *(C1*cos(X)+C2sin(X))+e^(-X) *(C2*cos(X) - C1sin(X))+e^(-X) -x*e^(-X)

дальше подставляйте в эти уравнения начальные условия, найдёте с1 и с2
ответ можете написать, сверим

C1=0
C2=-1

Да, такое получается.
y = -e^(-x) * sin x + x * e^(-x)

да, верно.

подставляйте теперь, ответ будет: Y=-e^(-x)*sin(x)+x*e^(-x)



чуть-чуть опоздала