$A$ は次のように行基本変形できる： \begin{align} \begin{pmatrix} 1 & 1 & 0 \\ 0 & 1 & 1 \\ 0 & 1 & a \end{pmatrix} \\ \begin{pmatrix} 1 & 0 & -1 \\ 0 & 1 & 1 \\ 0 & 0 & a-1 \end{pmatrix} \end{align} よって、 $A$ の階数が $2$ となるのは $a=1$ のときである。
与えられた方程式の拡大係数行列 \begin{align} \begin{pmatrix} 1 & 1 & 0 & p \\ 2 & 3 & 1 & q \\ 0 & 1 & 1 & r \end{pmatrix} \end{align} は、次のように行基本変形できる： \begin{align} \begin{pmatrix} 1 & 1 & 0 & p \\ 0 & 1 & 1 & -2p+q \\ 0 & 1 & 1 & r \end{pmatrix} \\ \begin{pmatrix} 1 & 0 & -1 & 3p-q \\ 0 & 1 & 1 & -2p+q \\ 0 & 0 & 0 & 2p-q+r \end{pmatrix} \end{align} よって、与えられた方程式が解をもつための必要十分条件は $2p-q+r=0$ である。 このとき、 \begin{align} \begin{cases} x-z = 3p-q, \\ y+z= -2p+q \end{cases} \end{align} となるので、一般解は、 $t$ を任意の実数として、 \begin{align} \begin{cases} x = 3p-q+t, \\ y = -2p+q-t, \\ z = t \end{cases} \end{align} と表せる。
\begin{align} B^2 &= \frac{1}{9} \left( I + 2A + 3A^2 + 2A^3 + A^4 \right) \\ &= \frac{1}{9} \left( 3I + 3A + 3A^2 \right) \ \ \ \ \ \ \ \ ( \because A^3=I ) \\ &= B \end{align} なので、 \begin{align} BC &= B(I-B) \\ &= B - B^2 \\ &= O , \\ CB &= (I-B)B \\ &= B - B^2 \\ &= O \end{align} がわかる。
$V$ の零ベクトルを $0_V$ とする。
まず、 $x \in X, x \ne 0_V$ を考えると \begin{align} Cx &= x - Bx \\ &= x \\ &\ne 0_V \end{align} なので $x \notin Y$ であり、 $y \in Y, y \ne 0_V$ を考えると \begin{align} By &= y - Cy \\ &= y \\ &\ne 0_V \end{align} なので $y \notin X$ である。 よって、 \begin{align} X \cap Y = \left\{ 0_V \right\} \tag{i} \end{align} である。
さらに、任意の $v \in V$ は \begin{align} v &= Cv + Bv \end{align} と表せるが、 $BC=CB=O$ から $Cv \in X, Bv \in Y$ である。 このことと (i) から \begin{align} V = X \oplus Y \end{align} が言える。
(i) 任意の $w \in W$ は適当な $u,v \in X$ を使って \begin{align} w = u + Av \end{align} と表せ、 \begin{align} Bw &= Bu + BAv \\ &= Bu + ABv \\ &= O \ \ \ \ \ \ \ \ ( \because u, v \in X ) \end{align} なので、 $w \in X$ であり、 $W \subset X$ がわかる。 また、任意の実数 $a,b$ と任意の \begin{align} w_1 &= u_1 + Av_1 \in W \ \ \ \ ( u_1, v_1 \in X ) \\ w_2 &= u_2 + Av_2 \in W \ \ \ \ ( u_2, v_2 \in X ) \end{align} について、 \begin{align} aw_1 + bw_2 &= a(u_1 + Av_1) + b(u_2 + Av_2) \\ &= (au_1+bu_2) + A (av_1+bv_2) \end{align} であるが、 $au_1+bu_2, av_1+bv_2 \in X$ なので、 \begin{align} aw_1 + bw_2 \in W \end{align} が言え、 $W$ が実線形空間であることがわかる。 以上より、 $W$ は $X$ の（線形）部分空間であることがわかる。
(ii) 任意の $w \in W$ は適当な $u,v \in X$ を使って \begin{align} w = u + Av \end{align} と表せ、 \begin{align} Aw &= Au + A^2v \\ &= A^2v + Au \\ &\in W \ \ \ \ \ \ \ \ ( \because BA^2v = A^2Bv = O \text{ より } A^2v \in X ) \end{align} なので、 $A(W) \subset W$ である。