Достаточное условие экстремума функции двух переменных Дельта=А*С-В^2.
Если дельта больше 0, то есть экстремум
если дельта меньше 0, то нет экстремума
а если дельта равна 0, то что? опишите что надо делать в таком случае
нигде не могу найти

Предыдущий
вопрос Следующий
вопрос

информацию о критерии экстремума для случая, когда дельта равна 0. Рассмотрим другой способ определения экстремума. Для функции двух переменных f(x,y) можно рассмотреть ее частные производные и матрицу вторых производных (матрицу Гессе). После этого можно применить критерий Сильвестра: если все главные миноры матрицы Гессе положительны (или отрицательны) на некотором непрерывном куске, то это точка локального минимума (или максимума).