система такая:
x^3+y^3=z
y^3+z^3=x
z^3+x^3=y

второй день бьюсь, все учебники перерыла) может у кого есть какие идеи

Как точно звучит задание? Изначально задана система или вы откуда-то ее получили?
Очевидное решение х=у=z=0

Вычтем, например, из первого уравнения второе, получим
(x-z)(x^2+xz+z^2+1)=0

{докажем, что вторая скобка в 0 не обращается ни при каких х и z. Для этого докажем, что
x^2+xz+z^2>=0 при все x и z.
x^2+xz+z^2=z^2(t^2+t+1), где t=x/z. Квадратный трехчлен t^2+t+1>0 для всех t, поскольку у соотв. параболы ветви вверх, а дискриминант отрицательный. Что и требовалось}

Поэтому x=z. Аналогично (вычитая из первого третье) получим y=z. Итак, решение может быть токмо таким, что x=y=z. Дальше просто.
Ответ: x=y=z=0
x=y=z=1/sqrt(2)
x=y=z=-1/sqrt(2)

Есть ещё стандартный способ "взять наибольшего". Если, например, предположить, что z>y, z>x, то быстро придём к противоречию, из которого следует, что решение может быть только в варианте x=y=z.