интxarcctgxdx
u=arcctgx dv=xdx du=-(1/1+x*2) v=x*2/2
или так u=x du=dx dv=arcctgxdx v?
какое правильно?

Первое.

а дальше то как ..??

intxarcctgxdx=(x*3/3)x+intx*3/3(1+x*2)
так?

Это что? Как выглядит формула интегрирования по частям?

П.С. ^ - степень, т.е. 2^2=4.

по формуле
intuv"dx=uv-intvu'dx
intxarcctgxdx=(x^3/3)x -intx^3/3*(-1/1+x^2)

Подставляйте теперь в формулу. Или я не на тот интеграл смотрю?

так вот подставила intxarcctgxdx=(x^3/3)x -intx^3/3*(-1/1+x^2) а посчитать то дальше это как?

int x * arcctg x dx = int arcctg x d(1/2 * x^2) = 1/2 * x^2 * arccctg x - int 1/2 * x^2 d(arcctg x) =
= x^2/2 * arcctg x + 1/2 * int x^2/(1 + x^2) dx = x^2/2 * arcctg x + 1/2 * int (1 + x^2 - 1)/(1 + x^2) dx = x^2/2 * arcctg x + 1/2 * int dx - 1/2 * int dx/(1 + x^2) =
= x^2/2 * arcctg x + 1/2 * x + 1/2 * arcctg x + C
Вроде так.

так я совсем запуталась вы в какую формулу все подставляли?

В формулу интегрирования по частям
int u dv = u * v - int v du

правильно ли мне ответили проверьте пожалуйсто

Кто ответил, где ответил, как ответил?
Все расписано, проверяйте.

просто у нас с тролем расхождение в решение получилось и я не знаю кто прав

У вас не расхождения получилось, просто вы качестве u и v берете одно, а в формулу подставляете совсем другое.

П.С. Тролля не проверяла, но я в него верю.