RESUMEN. Determinamos y clasificamos los puntos críticos de una función con un caso dudoso.
Enunciado
Calcular y clasificar los puntos críticos de la función
$$f:\mathbb{R}^2\to \mathbb{R},\quad f(x,y)=2x^4+3y^4- 4x^2y^3.$$ Solución
Derivadas parciales primeras: $$\frac{\partial f}{\partial x}=8x^3-8xy^3, \quad \frac{\partial f}{\partial y}=12y^2-12x^2y^2.$$ Puntos críticos $$\left \{ \begin{matrix} 8x^3-8xy^3=0\\12y^2-12x^2y^2\end{matrix}\right.\Leftrightarrow \left \{ \begin{matrix} x(x^2-y^3)=0\\y^2(1-x^2)=0.\end{matrix}\right.$$
De la segunda ecuación deducimos que $y=0$ o $x=\pm 1.$ Sustituyendo $y=0$ en la primera queda $x=0.$ Sustiuyendo $x=1$ en la primera queda $y=1.$ Sustituyendo $x=-1$ en la primera queda $y=1.$ Por tanto, los puntos críticos de $f$ son $$A(1,1),\quad B(-1,1),\quad C(0,0).$$ Hallemos las derivadas parciales segundas
$$\frac{\partial^2 f}{\partial x^2}=24x^2-8y^3,\;\frac{\partial^2 f}{\partial x\partial y}=\frac{\partial^2 f}{\partial y\partial x}=-24xy^2,\;\frac{\partial^2 f}{\partial y^2}=24y-24x^2y.$$ Matriz hessiana en los puntos críticos: $$H(1,1)=\begin{bmatrix}{16}&{-24}\\{-24}&{0}\end{bmatrix}, H(1,1)=\begin{bmatrix}{16}&{24}\\{24}&{0}\end{bmatrix}, H(0,0)=\begin{bmatrix}{0}&{0}\\{0}&{0}\end{bmatrix}.$$
Tenemos $\det H(1,1)=\det H(-1,1)=-24^2 < 0,$ por tanto $(\pm1,1)$ son puntos de silla. En $(0,0)$ aparece caso dudoso. Estudiemos el incremento $$\Delta f(x,y)=f(x,y)-f(0,0)=2x^4+3y^4-4x^2y^3$$ $$=2(x^2-y^2)^2+y^4+4x^2y^2-4x^2y^3$$ $$=2(x^2-y^2)^2+y^4+4x^2y^2(1-y) \ge 0\text{ si } y < 1,$$ por tanto en un entorno de $(0,0)$, $\Delta f(x,y) \ge 0 $ lo cual implica que en $(0,0)$ existe mínimo local.
Nota. Agradezco la idea de Luis Fuentes para determinar el signo del incremento (ver Sobre un caso dudoso en puntos críticos).