$A$ の固有値を $\lambda$ とすると、 \begin{align} 0 &= \det \begin{pmatrix} a-\lambda & 1-a \\ 1-a & a-\lambda \end{pmatrix} \\ &= (\lambda - 1)(\lambda - 2a + 1) \\ \therefore \ \ \lambda &= 1, 2a-1 \end{align} を得る。 $a \ne 1$ なので、これらは相異なる固有値である。
固有値 $1$ に属する固有ベクトルを求めるために \begin{align} \begin{pmatrix} 0 \\ 0 \end{pmatrix} &= \begin{pmatrix} a-1 & 1-a \\ 1-a & a-1 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} \end{align} とおくと $x=y$ であり、 固有値 $2a-1$ に属する固有ベクトルを求めるために \begin{align} \begin{pmatrix} 0 \\ 0 \end{pmatrix} &= \begin{pmatrix} 1-a & 1-a \\ 1-a & 1-a \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} \end{align} とおくと $x+y=0$ であるから、それぞれに属する固有ベクトルは例えば \begin{align} \begin{pmatrix} 1 \\ 1 \end{pmatrix} , \begin{pmatrix} 1 \\ -1 \end{pmatrix} \end{align} である。
1) で求めた固有ベクトルを使って、 \begin{align} P &= \frac{1}{\sqrt{2}} \begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix} \end{align} とおくと、 \begin{align} P^2 &= \begin{pmatrix} 1 & 0 \\ 0 & 1 \end{pmatrix} \\ PAP &= \begin{pmatrix} 1 & 0 \\ 0 & 2a-1 \end{pmatrix} \end{align} が成り立つので、 \begin{align} A^n &= P \begin{pmatrix} 1 & 0 \\ 0 & 2a-1 \end{pmatrix}^n P \\ &= P \begin{pmatrix} 1 & 0 \\ 0 & (2a-1)^n \end{pmatrix} P \\ &= \frac{1}{2} \begin{pmatrix} 1+(2a-1)^n & 1-(2a-1)^n \\ 1-(2a-1)^n & 1+(2a-1)^n \end{pmatrix} \end{align} を得る。
$0 \lt a \lt 1$ より、 $-1 \lt 2a-1 \lt 1$ なので、 \begin{align} \lim_{n \to \infty} (2a-1)^n = 0 \end{align} であり、 \begin{align} \lim_{n \to \infty} A^n &= \frac{1}{2} \begin{pmatrix} 1 & 1 \\ 1 & 1 \end{pmatrix} \end{align} を得る。