y''*y^3+36=0
Для понижения порядка делаем замену
y'=P y''=P*dP/dy

получается
P*dP/dy=-36/y^3
PdP=-36 dy/y^3
Интегрирую
получаю
P^2=18/y^2+C
соотвественно
y'=плюс/минус корень (36/y^2+2C)
и тут стало страшно, мож я где ошибся, или все таки придеться брать этот интеграл, и если да, то как его проще решить?

вроде все верно сделали.

можно преобразовать:
y'=+-sqrt(36+C1y^2)/y
C1=2C
Тогда
ydy/sqrt(36+C1^2y^2)=+-dx
Вроде больших проблем при взятии интеграла возникнуть не должно.

Тем более,если у Вас задача Коши,можно использовать начальные данные,возможно что тогда интеграл станет проще.

У меня похожее уравнение, только вместо свободного члена 64.
Интеграл действительно берется без проблем:
x=sqrt[64+C1y^2]/C1
но еще даны условия y(0)=y'(0)=2
они используются для нахождения С1? если да, то как это сделать?

у=2 при х=0
y'=2 при х=0

если у=2 при х=0 подставить в x=sqrt[64+C1y^2]/C1, то
sqrt[64+4C1]=0
C1=-1/16
тогда для чего y'=2 при х=0, все равно непонятно

Т.к. исходное ДУ второго порядка, то констант должно быть две. Скорее всего, когда находили интергал, одну из них забыли дописать.

Так и есть! Все решилось, спасибо