Заранее спасибо

B=x, не дописал

В каком виде ищите частное решение?

Это как?
В - это константа, х - это переменная.

Bsinx=xsinx, отсюда B=x

неправильно.
Еще раз:
В каком виде вы ищите частное решение?

y0=C1e^(k1x)+C2e^(k2x)
y(c чертой)=Acosx+Bsinx

Почему именно так? Если в правой части стоит многочлен первой степени на тригонометрию, а у вас константа на тригонометрию.

Я кажется понял. Раз А=0, то
y(c чертой)=xsin(x)

но тогда посчитав коэффициенты перед синусом и кисинусом получаем 2 решения.

х=-2/3
x=3/4

НЕт, скорее всего, вы неправильно поняли.
Посмотрите в разделе "Дифференциальные уравнения" вверху есть прикрепленная тема с литературой, посмотрите примеры там либо здесь и далее

y(c чертой)=x*sin(x)
y(с чертой)'=sin(x)+cos(x)
y(с чертой)''=2cos(x)+xsin(x)

Это частное решение?

Да

Потом нашел 1ю и 2ю производную и подставил. в искомое.

Неправильно ищите частное решение. Смотрите ссылку и книги в прикрепленной теме.

вообще разбирался на последнем примере вот от сюда
http://www.google.ru/url?sa=t&source=w...TBuG18tK7r1BTNg

Это хорошо, но ищите неправильно.
При синусе в правой части стоит многочлен первой степени. Какой общий вид многочлена первой степени?

Значит y частное =Ax+B
так?

или x( Ax+B ) ?

Не совсем,
у ч=(Аx+B)sinx+(Cx+D)cosx
Вот так.

значит
Yчн=Axsin(x)+Bsin(x)+Cxcos(x)+Dcos(x)
Yчн'=Asin(x)+Axcos(x)+Bcos(x)+Ccos(x)-Cxcos(x)-Dsin(x)
Yчн''=Acos(x)+Acos(x)-Asin(x)-Bsin(x)-Csin(x)-Ccos(x)+Cxsin(x)-Dcos(x)
поправьте если ошибаюсь

И дальше подставлять?

Что-то большое уравнение получается, видимо намудрил чего.

В третьем слагаемом х потеряли.

да

получается так. Надеюсь ничего не упустил

2Acosx -5Axsinx-5Bsinx-Csinx-2Ccosx+Cxsinx-5Dcosx+3Asinx+3Axcosx-7Cxcosx+3Bcosx-3Dsinx=xsinx

Сложно сказать, не видя полного вывода.
Приравнивайте коэффициенты.

Я просто подставил в искомое.

Получил это
Acosx+Acosx-Axsinx-Bsinx-Csinx-Ccosx+Cxsinx-Dcosx+3Asinx+3Axcosx+3Bcosx+3Ccosx-3Cxcosx
-3Dsinx-4Axsinx-4Bsinx-4Cxcosx-4Dcosx=xsinx

Затем упростил и получил это
2Acosx -5Axsinx-5Bsinx-Csinx-2Ccosx+Cxsinx-5Dcosx+3Asinx+3Axcosx-7Cxcosx+3Bcosx-3Dsinx=xsinx

Теперь делаю систему. коэффициенты перед sin, одно и перед cos другое

-5Ax-5B-С+Сx+3A-3D=x
2A-2C-5D+3Ax-7Cx+3B=0

Теперь в каждой строке сравнивайте коэффициенты при х и без х.

Как это?

В равенстве -5Ax-5B-С+Сx+3A-3D=x слева с х какие коэффициенты? А справа?
Аналогично слева какие слагаемые не содержат х? А справа?

Должно получится А=-85/578, В=6/578, С=-51/578, D=-61/578

Значит если я правильно понял получаем систему из 4 уравнений.

-5A+C=1
-5B-C+3A-3D=0
2A-2C-5D+3B=0
3A-7C=0

общее решение

y=C1e^(-4x)+C2e^x+((-85/578)x+(6/578))sinx+((-51/578)x-(61/578))cosx

Проверьте пожалуйста. И спасибо за помощь

верно

Огромное спасибо!:)

Пожалуйста!