\begin{align} A x &= \begin{pmatrix} x_1 + x_2 + 3x_3 \\ x_2 + 2x_3 \\ x_1 + 2x_2 + 5x_3 \end{pmatrix} = (x_1+x_3) \begin{pmatrix} 1 \\ 0 \\ 1 \end{pmatrix} + (x_2+2x_3) \begin{pmatrix} 1 \\ 1 \\ 2 \end{pmatrix} \end{align} なので、2次元であり、 \begin{align} \begin{pmatrix} 1 \\ 0 \\ 1 \end{pmatrix} , \ \ \begin{pmatrix} 1 \\ 1 \\ 2 \end{pmatrix} \end{align} は基底である。
\begin{align} \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix} &= \begin{pmatrix} x_1 + x_2 + 3x_3 \\ x_2 + 2x_3 \\ x_1 + 2x_2 + 5x_3 \end{pmatrix} \end{align} より、 \begin{align} x_1 + x_3 = 0 , \ \ x_2 + 2 x_3 = 0 \end{align} であるから、求めるベクトルの集合は、 $t$ を任意の実数として、 \begin{align} t \begin{pmatrix} -1 \\ -2 \\ 1 \end{pmatrix} \end{align} の形のベクトルたちである。
\begin{align} \begin{pmatrix} 5 \\ 3 \\ 8 \end{pmatrix} &= \begin{pmatrix} x_1 + x_2 + 3x_3 \\ x_2 + 2x_3 \\ x_1 + 2x_2 + 5x_3 \end{pmatrix} \end{align} より、 \begin{align} x_1 + x_3 = 2 , \ \ x_2 + 2 x_3 = 3 \end{align} であるから、求めるベクトルの集合は、 $t$ を任意の実数として、 \begin{align} \begin{pmatrix} -t+2 \\ -2t+3 \\ t \end{pmatrix} \end{align} の形のベクトルたちである。