RESUMEN. Calculamos la matriz del cuadrado de un endomorfismo por dos métodos distintos.
Enunciado
Sea $V$ un espacio vectorial real y $B=\{v_1,v_2\}$, $B^\prime=\{v_2,-v_1+v_2\}$ sendas bases de $V.$ Se considera el endomorfismo $f:V\to V$ tal que su matriz en las bases $B$ y $B^\prime$ es $$[f]_{B}^{B^\prime}=\begin{pmatrix}{1}&{1}\\{0}&{1}\end{pmatrix}.$$ Se pide determinar $[f\circ f]_{B}^{B^\prime}.$
Solución
Primer método. Hallaremos los transformados los elementos de $B$ por $f\circ f$ en función de los elementos de la base $B^\prime.$ La ecuación matricial de $f$ en en las bases $B$ y $B^\prime$ es $$\begin{pmatrix}{y_1}\\{y_2}\end{pmatrix}=\begin{pmatrix}{1}&{1}\\{0}&{1}\end{pmatrix}\begin{pmatrix}{x_1}\\{x_2}\end{pmatrix}.$$ Las coordenadas de $v_1$ y $v_2$ en $B$ son respevtivamente $(1,0)^t$ y $(0,1)^t$ respectivamente. Entonces, $$\begin{pmatrix}{1}&{1}\\{0}&{1}\end{pmatrix}\begin{pmatrix}{1}\\{0}\end{pmatrix}=\begin{pmatrix}{1}\\{0}\end{pmatrix} ,\quad \begin{pmatrix}{1}&{1}\\{0}&{1}\end{pmatrix}\begin{pmatrix}{0}\\{1}\end{pmatrix}=\begin{pmatrix}{1}\\{1}\end{pmatrix}$$ por tanto $$\begin{aligned}
&f(v_1)=1v_2+0(-v_1+v_2)=v_2\\
&f(v_2)=1v_2+1(-v_1+v_2)=-v_1+2v_2.
\end{aligned}$$ Entonces, $$\begin{aligned}
&(f\circ f)(v_1)=f[f(v_1)]=f(v_2)\\
&(f\circ f)(v_2)=f[f(v_2)]=f(-v_1+2v_2).
\end{aligned}$$ Las coordenadas de $v_2$ y $-v_1+2v_2$ en $B$ son respevtivamente $(0,1)^t$ y $(-1,2)^t$ respectivamente. Entonces, $$\begin{pmatrix}{1}&{1}\\{0}&{1}\end{pmatrix}\begin{pmatrix}{0}\\{1}\end{pmatrix}=\begin{pmatrix}{1}\\{1}\end{pmatrix} ,\quad \begin{pmatrix}{1}&{1}\\{0}&{1}\end{pmatrix}\begin{pmatrix}{-1}\\{2}\end{pmatrix}=\begin{pmatrix}{1}\\{2}\end{pmatrix}$$ por tanto $$\begin{aligned}
&(f\circ f)(v_1)=1v_2+1(-v_1+v_2)=-v_1+2v_2\\
&(f\circ f)(v_2)=v_2+2(-v_1+v_2)=-2v_1+3v_2.
\end{aligned}$$ Ahora expresamos $(f\circ f)(v_1)$ y $(f\circ f)(v_2$ en función de $B^\prime$: $$\begin{aligned}
&(f\circ f)(v_1)=-v_1+2v_2=\lambda_1v_2+\lambda_2(-v_1+v_2)\\
&(f\circ f)(v_2)=-2v_1+3v_2=\mu_1v_2+\mu_2(-v_1+v_2).
\end{aligned}$$ Obtenemos $\lambda_1=1,$ $\lambda_2=1,$ $\mu_1=1,$ $\mu_2=2,$ por tanto $$\boxed{[f\circ f]_{B}^{B^\prime}=\begin{pmatrix}{1}&{1}\\{1}&{2}\end{pmatrix}}$$ Segundo método. Usamos el teorema:
Sean $E,F,G$ tres espacios sobre el cuerpo $\mathbb{K}$ de dimensiones finitas sean $B_E,$ $B_F$ y $B_G$ bases de $E,$ $F$ y $G$ respectivamente. Entonces, $$[g\circ f]_{B_E}^{B_G}=[g]_{B_F}^{B_G}\cdot [f]_{B_E}^{B_F}.$$ Es decir, la matriz de la composición $g\circ f$ es el producto de la matriz de $g$ por la de $f$ en las bases mencionadas. Entonces, en nuestro caso $$[f\circ f]_{B}^{B^\prime}=[f]_{B}^{B^\prime}\cdot [f]_{B}^{B}.$$ De las igualdades $$\begin{aligned}
&f(v_1)=v_2\\
&f(v_2)=-v_1+2v_2,
\end{aligned}$$ obtenidas en el primer método, tenemos $$[f]_{B}^B=\begin{pmatrix}{0}&{-1}\\{1}&{\;\;2}\end{pmatrix}$$ y la matriz $[f]_{B}^{B^\prime}$ es dato del problema, en consecuencia
$$[f\circ f]_{B}^{B^\prime}=\begin{pmatrix}{1}&{1}\\{0}&{1}\end{pmatrix}\begin{pmatrix}{0}&{-1}\\{1}&{\;\;2}\end{pmatrix}$$ y multiplicando obtenemos $$\boxed{[f\circ f]_{B}^{B^\prime}=\begin{pmatrix}{1}&{1}\\{1}&{2}\end{pmatrix}}$$