Formas de Jordan de $AB$ y $BA$

Analizamos la posible igualdad de las formas de Jordan de $AB$ y $BA$.

Enunciado
Sean $A$ y $B$ dos matrices cuadradas de orden $n$. En general $AB$ y $BA$ son matrices distintas, y sin embargo tienen atributos iguales. Por ejemplo, se verifica $\det(AB)=\det(BA)$. El objetivo de este ejercicio es, además de evaluar a los alumnos, estudiar algunas otras características comunes.
1. Demostrar que $AB$ y $BA$ tienen el mismo polinomio característico y los mismos valores propios.
   Indicación: Efectuar los productos por cajas $CD$ y $DC$, y comparar $\det(CD)$ con $\det(DC)$. $$C=\begin{bmatrix}{\lambda I}&{A}\\{B}&{I}\end{bmatrix},\quad D=\begin{bmatrix}{-I}&{0}\\{B}&{-\lambda I}\end{bmatrix}.$$
2. A la vista del resultado anterior es natural preguntar ¿$AB$ y $BA$ tienen la misma forma de Jordan?, y en particular, ¿si una de ellas es diagonalizable, lo es tambien la otra?. Las respuestas son afirmativas al menos en el caso particular de suponer $A$ o $B$ invertibles. En efecto, en este caso demostrar que si $J$ es la forma canónica de Jordan de $AB$ con matriz de paso $P$ ($J=P^{-1}(AB)P$), entonces $J$ es también la forma normal de Jordan de $BA$. Determinar una matriz invertible $Q$ tal que $J=Q^{-1}(BA)Q$.
   Indicación: Utilizar la igualdad $AB=A(BA)A^{-1}$ cuando se supone $A$ inverible y otra igualdad análoga cuando se supone $B$ invertible.
3. Construir un contraejemplo para mostrar que las respuestas a las preguntas del apartado anterior no siempre son afirmativas. Estudiar si la condición $A$ o $B$ invertible es necesaria para que $AB$ y $BA$ tengan la misma forma normal de Jordan.

   (Propuesto en examen, Álgebra, ETS Ing. de Montes, UPM).

Solución
1. Hallemos los productos $CD$ y $DC$: $$CD=\begin{bmatrix}{\lambda I}&{A}\\{B}&{I}\end{bmatrix}\begin{bmatrix}{-I}&{0}\\{B}&{-\lambda I}\end{bmatrix}=\begin{bmatrix}{-\lambda I+AB}&{-\lambda A}\\{0}&{-\lambda I}\end{bmatrix},$$ $$DC=\begin{bmatrix}{-I}&{0}\\{B}&{-\lambda I}\end{bmatrix}\begin{bmatrix}{\lambda I}&{A}\\{B}&{I}\end{bmatrix}=\begin{bmatrix}{-\lambda I}&{- A}\\{0}&{BA-\lambda I}\end{bmatrix}.$$ Usando que $\det(CD)=\det(DC)$  obtenemos: $$\det (AB-\lambda I)(-\lambda)^n=(-\lambda)^n\det(BA-\lambda I)$$ Queda $\det(AB-\lambda I)=\det(BA-\lambda I),$  es decir,  $AB$ y $BA$ tienen el mismo polinomio característico y como consecuencia los mismos valores propios.
2. Por hipótesis $J=P^{-1}(AB)P$. Entonces: $$J=P^{-1}(AB)P=P^{-1}[A(BA)A^{-1}]= \\P^{-1}A(BA)A^{-1}P=(A^{-1}P)^{-1}(BA)(A^{-1}P) .$$ Es decir, para $Q=A^{-1}P$ tenemos $J=Q^{-1}(BA)Q$ lo cual implica que la forma de Jordan de $BA$ es $J$ (la misma que la de $AB$). El razonamiento es totalmente análogo si se considera $B$ invertible.
3. Consideremos las matrices: $$A=\begin{bmatrix}{1}&{0}\\{0}&{0}\end{bmatrix},\quad B=\begin{bmatrix}{0}&{1}\\{0}&{0}\end{bmatrix}.$$ Entonces: $$AB=\begin{bmatrix}{0}&{1}\\{0}&{0}\end{bmatrix},\quad BA=\begin{bmatrix}{0}&{0}\\{0}&{0}\end{bmatrix}.$$ Las matrices $AB$ y $BA$ no tienen la misma forma de Jordan, lo cual implica que la respuesta a la primera pregunta del apartado 2 no siempre es afirmativa. Por otra parte, eligiendo $A=0$ y $B=0$ tenemos $AB=BA=0$, es decir $AB$ y $BA$ tienen la misma forma de Jordan sin ser necesario que $A$ o $B$ sean invertibles.