\begin{align} \left( 1, 1 \right) &= \int_{- \pi}^\pi dx = 2 \pi \\ \left( \cos x, \cos x \right) &= \int_{- \pi}^\pi \cos^2 x dx = \pi \\ \left( \sin x, \sin x \right) &= \int_{- \pi}^\pi \sin^2 x dx = \pi \\ \left( 1, \cos x \right) = \left( \cos x, 1 \right) &= \int_{- \pi}^\pi \cos x dx = 0 \\ \left( 1, \sin x \right) = \left( \sin x, 1 \right) &= \int_{- \pi}^\pi \sin x dx = 0 \\ \left( \cos x, \sin x \right) = \left( \sin x, \cos x \right) &= \int_{- \pi}^\pi \cos x \sin x dx = 0 \end{align} より、 \begin{align} \left( f(x), g(x) \right) = a_0 b_0 + a_1 b_1 + a_2 b_2 \end{align} がわかる。
\begin{align} \hat{O}_1 g(x) = \frac{2b_0}{\sqrt{2 \pi}} + \frac{2b_1+b_2}{\sqrt{\pi}} \cos x + \frac{-b_1+2b_2}{\sqrt{\pi}} \sin x \end{align} より、 \begin{align} \left( f(x), \hat{O}_1 g(x) \right) &= 2 a_0 b_0 + a_1 (2b_1+b_2) + a_2 (-b_1+2b_2) \\ &= \begin{pmatrix} a_0 & a_1 & a_2 \end{pmatrix} \begin{pmatrix} 2 & 0 & 0 \\ 0 & 2 & 1 \\ 0 & -1 & 2 \end{pmatrix} \begin{pmatrix} b_0 \\ b_1 \\ b_2 \end{pmatrix} \end{align} であるから、 \begin{align} A = \begin{pmatrix} 2 & 0 & 0 \\ 0 & 2 & 1 \\ 0 & -1 & 2 \end{pmatrix} \end{align} がわかる。
$\hat{O}_2$ に対応する行列は \begin{align} B = \begin{pmatrix} 1 & 0 & 0 \\ 0 & -1 & 2 \\ 0 & -2 & -1 \end{pmatrix} \end{align} であるから、 $(\hat{O}_2)^3$ に対応する行列は \begin{align} B^3 = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 11 & -2 \\ 0 & 2 & 11 \end{pmatrix} \end{align} であり、 \begin{align} \left( f(x), (\hat{O}_2)^3 f(x) \right) &= \begin{pmatrix} a_0 & a_1 & a_2 \end{pmatrix} \begin{pmatrix} 1 & 0 & 0 \\ 0 & 11 & -2 \\ 0 & 2 & 11 \end{pmatrix} \begin{pmatrix} a_0 \\ a_1 \\ a_2 \end{pmatrix} \\ &= a_0^2 + 11a_1^2 + 11a_2^2 \end{align}
演算子 $2 \frac{d^4}{dx^4} + \frac{d^2}{dx^2} $ に対応する行列は \begin{align} C = \begin{pmatrix} 0 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{pmatrix} \end{align} である。 これの固有値は $0, 1$ であり、それぞれに属する固有ベクトルは、 $u \ne 0, \ (v,w) \ne (0,0)$ として、 \begin{align} \begin{pmatrix} u \\ 0 \\ 0 \end{pmatrix} , \ \ \begin{pmatrix} 0 \\ v \\ w \end{pmatrix} \end{align} である。 よって、求める $\lambda$ の値は $0, 1$ である。
$\lambda = 0$ のとき、 $a_1 = a_2 = 0$ であり、 \begin{align} f(x) = \frac{a_0}{\sqrt{2 \pi}} \end{align} であるが、 $f(\pi)=-1, \ f'(\pi)=0$ より $a_0 = - \sqrt{2 \pi}$ がわかる。
$\lambda = 1$ のとき、 $a_0 = 0$ であり、 \begin{align} f(x) &= \frac{a_1}{\sqrt{\pi}} \cos x + \frac{a_2}{\sqrt{\pi}} \sin x, \\ f'(x) &= - \frac{a_1}{\sqrt{\pi}} \sin x + \frac{a_2}{\sqrt{\pi}} \cos x \end{align} であるが、 $f(\pi)=-1, \ f'(\pi)=0$ より $a_1 = \sqrt{\pi}, \ a_2 = 0$ がわかる。
まとめると、求める値は、 $(\lambda, a_0, a_1, a_2) = (0, - \sqrt{2 \pi}, 0, 0), (1, 0, \sqrt{\pi}, 0)$ である。