Есть вот такая функция:
Нажмите для просмотра прикрепленного файла

Нахожу dz/dx=(y^2-4y+6)(10x+10)
и dz/dy=(5x^2+10x+6)(2y-4)

стационарные точки ищем из системы:
{(y^2-4y+6)(10x+10)=0
(5x^2+10x+6)(2y-4)=0

{(y^2-4y+6)(x+1)=0
(5x^2+10x+6)(y-2)=0

x=-1 y=2

А брать ли значение x и y с комплексными значениями ,которые у нас находятся при вычислении корней из y^2-4y+6=0 и 5x^2+10x+6 ?

Скорее всего, что нет.