$f(x)$ を最小多項式 $\varphi_A(x)$ で割ったときの商を $g(x)$ 、 余りを $h(x)$ とする（ $h(x)$ は $\varphi_A(x)$ より次数が低い）： \begin{align} f(x) = g(x) \varphi_A(x) + h(x) \end{align} $f(A)=0, \varphi_A(A)=0$ であるから、 \begin{align} f(A) = g(A) \varphi_A(A) + h(A) = h(A) = 0 \end{align} ところが、最小多項式は $\varphi_A(x)$ であって、 $h(x)$ ではないので、 $h(x)$ は恒等的に $0$ である必要がある。 よって、 $f(x)$ は $\varphi_A(x)$ で割り切れる： \begin{align} f(x) = g(x) \varphi_A(x) \end{align}
$\varphi_A(x)$ の他に $\psi(x)$ も $A$ の最小多項式であるとすると、 $\psi(A)=0$ が成り立つので、(i) より \begin{align} \psi(x) = g(x) \varphi_A(x) \end{align} と書ける。 ところで、 $\varphi_A(x)$ と $\psi(x)$ は同じ次数であるから $g(x)$ は定数であり、 さらに、どちらも最高次の係数が $1$ であるから $g(x)=1$ でなければならない。 すなわち、 \begin{align} \psi(x) = \varphi_A(x) \end{align} である。
まず、 \begin{align} \varphi_A \left( P^{-1} A P \right) = P^{-1} \varphi_A (A) P = 0 \end{align} であるから、[問1]より、 $\varphi_A(x)$ は $\varphi_{P^{-1}AP}(x)$ で割り切れる。 同様に、 \begin{align} \varphi_{P^{-1}AP} (A) = P \varphi_{P^{-1}AP} \left( P^{-1} A P \right) P^{-1} = 0 \end{align} であるから $\varphi_{P^{-1}AP}(x)$ は $\varphi_A(x)$ で割り切れる。 したがって、適当な定数 $c$ を使って、 \begin{align} \varphi_{P^{-1}AP} (x) = c \varphi_A (x) \end{align} と書けるが、 $\varphi_{P^{-1}AP} (x)$ も $\varphi_A (x)$ も最高次の係数が $1$ であるから、 $c=1$ であり、 \begin{align} \varphi_{P^{-1}AP} (x) = \varphi_A (x) \end{align} である。
\begin{align} P^{-1} A P = \text{diag} (\alpha_1, \cdots, \alpha_1, \alpha_2, \cdots, \alpha_2, \cdots, \alpha_s, \cdots, \alpha_s) \tag{1} \end{align} のとき、$P^{-1} A P$ の固有多項式 $f_{P^{-1} A P}(x)$ は、 \begin{align} f_{P^{-1} A P}(x) = (x-\alpha_1)^{n_1} (x-\alpha_2)^{n_2} \cdots (x-\alpha_s)^{n_s} \end{align} ここで、$n_1, n_2, \cdots, n_s$ はそれぞれ、 (1)式で $\alpha_1, \alpha_2, \cdots, \alpha_s$ が現れる回数である。 したがって、$P^{-1} A P$ の最小多項式は、 次のような形をもつ： \begin{align} g(x) = (x-\alpha_1)^{m_1} (x-\alpha_2)^{m_2} \cdots (x-\alpha_s)^{m_s} \end{align} ここで、 $m_1, m_2, \cdots, m_s$ は、 \begin{align} 0 \leq m_1 \leq n_1, 0 \leq m_2 \leq n_2, \cdots 0 \leq m_s \leq n_s \end{align} を満たす整数である。 ところが、 $m_1 = m_2 = \cdots = m_s = 1$ すなわち、 \begin{align} g(x) = (x-\alpha_1) (x-\alpha_2) \cdots (x-\alpha_s) \end{align} のとき、 \begin{align} g(A) = 0 \end{align} である。 よって、 $g(x)$ が最小多項式になるのは、 $m_1 \leq 1, m_2 \leq 1, \cdots, m_s \leq 1$ のときであり、重根をもたない。
[問2] より $A$ の最小多項式は $P^{-1} A P$ の最小多項式に等しいので、 $A$ の最小多項式も重根をもたない。
与えられた行列 $A$ の固有多項式は、 \begin{align} \begin{vmatrix} x & -1 & 0 \\ 0 & x-1 & -1 \\ -1 & 1 & x-2 \end{vmatrix} = x(x-1)(x-2)-1+x = x^3 - 3x^2+3x-1 = (x-1)^3 \end{align} であるから、 $A$ の最小多項式の候補は $x-1, (x-1)^2, (x-1)^3$ の3つである。 ところが、$A-1 \neq 0$ であるから、 $x-1$ は最小多項式ではない。 よって、最小多項式は $(x-1)^2, (x-1)^3$ のいずれかであり、重根をもつ。 したがって、[問3] の対偶より、 $A$ は対角化可能ではない。