Доброго времени суток!
Потребовалось провести дополнительное исследование в сомнительных случаях (когда D=0).
Вроде бы ничего сложного, но подозрение, что какие-то тонкости могла упустить, особенно в случае b.
Проверьте, пожалуйста!
Нажмите для просмотра прикрепленного файла

В последнем случае очевидно, что М(0,0) - не точка экстремума. Дествительно, в самой точке значение функции равно 0, а в любой окрестности этой точки есть точки
М1(1/n,1/n) и M2(1/n,-1/n) ( при достаточно большом натуральном n ), в одной из которых значение функции положительно, а в другой отрицательно.