\begin{align} \boldsymbol{u}_{n+1} &= \begin{pmatrix} a_{n+1} \\ a_{n+2} \\ a_{n+3} \end{pmatrix} \\ &= \begin{pmatrix} a_{n+1} \\ a_{n+2} \\ 4a_{n+2} - n_{n+1} - 6a_n \end{pmatrix} \\ &= \begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ -6 & -1 & 4 \end{pmatrix} \begin{pmatrix} a_n \\ a_{n+1} \\ a_{n+2} \end{pmatrix} \end{align} より、 \begin{align} A &= \begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ -6 & -1 & 4 \end{pmatrix} \end{align} である。
$A$ の固有値を $\lambda$ とすると、 \begin{align} 0 &= \det \begin{pmatrix} -\lambda & 1 & 0 \\ 0 & -\lambda & 1 \\ -6 & -1 & 4-\lambda \end{pmatrix} \\ &= - (\lambda+1)(\lambda-2)(\lambda-3) \\ \therefore \ \ \lambda &= -1, 2, 3 \end{align} を得る。 $\lambda=-1$ に属する固有ベクトルを求めるため \begin{align} \begin{pmatrix} 1 & 1 & 0 \\ 0 & 1 & 1 \\ -6 & -1 & 5 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix} \end{align} とおくと、 $x=-y=z$ を得る。 $\lambda=2$ に属する固有ベクトルを求めるため \begin{align} \begin{pmatrix} -2 & 1 & 0 \\ 0 & -2 & 1 \\ -6 & -1 & 2 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix} \end{align} とおくと、 $y=2x, z=4x$ を得る。 $\lambda=3$ に属する固有ベクトルを求めるため \begin{align} \begin{pmatrix} -3 & 1 & 0 \\ 0 & -3 & 1 \\ -6 & -1 & 1 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix} \end{align} とおくと、 $y=3x, z=9x$ を得る。 よって、固有値 $\lambda=-1,2,3$ のそれぞれに属する固有ベクトルとして、例えば、 \begin{align} \boldsymbol{v}_1 = \begin{pmatrix} 1 \\ -1 \\ 1 \end{pmatrix} , \ \ \boldsymbol{v}_2 = \begin{pmatrix} 1 \\ 2 \\ 4 \end{pmatrix} , \ \ \boldsymbol{v}_3 = \begin{pmatrix} 1 \\ 3 \\ 9 \end{pmatrix} \end{align} がある。
\begin{align} P &= \begin{pmatrix} \boldsymbol{v}_1 & \boldsymbol{v}_2 & \boldsymbol{v}_3 \end{pmatrix} \\ &= \begin{pmatrix} 1 & 1 & 1 \\ -1 & 2 & 3 \\ 1 & 4 & 9 \end{pmatrix} \end{align} とおくと、行列の基本変形または余因子行列を使った方法により、 \begin{align} P^{-1} &= \frac{1}{12} \begin{pmatrix} 6 & -5 & 1 \\ 12 & 8 & -4 \\ -6 & -3 & 3 \end{pmatrix} \end{align} がわかり、 \begin{align} B &= P^{-1} A P \\ &= \begin{pmatrix} -1 & 0 & 0 \\ 0 & 2 & 0 \\ 0 & 0 & 3 \end{pmatrix} \end{align} と対角化される。
\begin{align} A^n &= P B^n P^{-1} \\ &= \frac{1}{12} \begin{pmatrix} 1 & 1 & 1 \\ -1 & 2 & 3 \\ 1 & 4 & 9 \end{pmatrix} \begin{pmatrix} (-1)^n & 0 & 0 \\ 0 & 2^n & 0 \\ 0 & 0 & 3^n \end{pmatrix} \begin{pmatrix} 6 & -5 & 1 \\ 12 & 8 & -4 \\ -6 & -3 & 3 \end{pmatrix} \\ &= \begin{pmatrix} \frac{(-1)^n}{2} + 2^n - \frac{3^n}{2} & \frac{5(-1)^{n+1}}{12} + \frac{2^{n+1}}{3} - \frac{3^n}{4} & \frac{(-1)^n}{12} - \frac{2^n}{3} + \frac{3^n}{4} \\ \frac{(-1)^{n+1}}{2} + 2^{n+1} - \frac{3^{n+1}}{2} & \frac{5(-1)^n}{12} + \frac{2^{n+2}}{3} - \frac{3^{n+1}}{4} & \frac{(-1)^{n+1}}{12} - \frac{2^{n+1}}{3} + \frac{3^{n+1}}{4} \\ \frac{(-1)^n}{2} + 2^{n+2} - \frac{3^{n+2}}{2} & \frac{5(-1)^{n+1}}{12} + \frac{2^{n+3}}{3} - \frac{3^{n+2}}{4} & \frac{(-1)^n}{12} - \frac{2^{n+2}}{3} + \frac{3^{n+2}}{4} \\ \end{pmatrix} \end{align}
\begin{align} a_n &= \begin{pmatrix} \frac{(-1)^n}{2} + 2^n - \frac{3^n}{2} & \frac{5(-1)^{n+1}}{12} + \frac{2^{n+1}}{3} - \frac{3^n}{4} & \frac{(-1)^n}{12} - \frac{2^n}{3} + \frac{3^n}{4} \end{pmatrix} \begin{pmatrix} 1 \\ 12 \\ 24 \end{pmatrix} \\ &= \frac{5(-1)^{n+1}}{2} + 2^n + \frac{5 \cdot 3^n}{2} \end{align}