\begin{align} A = \begin{pmatrix} 2 & 0 & 0 \\ 0 & 2 & 2 \\ 0 & 2 & 2 \end{pmatrix} , \ \ \boldsymbol{b} = \frac{1}{2 \sqrt{2}} \begin{pmatrix} 0 \\ -1 \\ 1 \end{pmatrix} \end{align}
$A$ の固有値を $\lambda$ とすると、 \begin{align} 0 &= \det \begin{pmatrix} 2-\lambda & 0 & 0 \\ 0 & 2-\lambda & 2 \\ 0 & 2 & 2-\lambda \end{pmatrix} \\ &= - \lambda(\lambda-2)(\lambda-4) \end{align} となるので、 \begin{align} d_1 = 4, d_2 = 2, d_3 = 0 \end{align} つまり、 \begin{align} D = \begin{pmatrix} 4 & 0 & 0 \\ 0 & 2 & 0 \\ 0 & 0 & 0 \end{pmatrix} \end{align} である。 固有値 $d_1, d_2, d_3$ に属する規格化された固有ベクトルは、それぞれ、 \begin{align} \boldsymbol{v}_1 = \frac{1}{\sqrt{2}} \begin{pmatrix} 0 \\ 1 \\ 1 \end{pmatrix} , \ \ \boldsymbol{v}_2 = \begin{pmatrix} 1 \\ 0 \\ 0 \end{pmatrix} , \ \ \boldsymbol{v}_3 = \frac{1}{\sqrt{2}} \begin{pmatrix} 0 \\ 1 \\ -1 \end{pmatrix} \end{align} なので、 \begin{align} P^T = \frac{1}{\sqrt{2}} \begin{pmatrix} 0 & \sqrt{2} & 0 \\ 1 & 0 & 1 \\ 1 & 0 & -1 \end{pmatrix} , \ \ P = \frac{1}{\sqrt{2}} \begin{pmatrix} 0 & 1 & 1 \\ \sqrt{2} & 0 & 0 \\ 0 & 1 & -1 \end{pmatrix} \end{align} とすると、 $A = P^T DP$ となる。
\begin{align} f(x,y,z) &= \begin{pmatrix} x & y & z \end{pmatrix} A \begin{pmatrix} x \\ y \\ z \end{pmatrix} + 2 \boldsymbol{b}^T \begin{pmatrix} x \\ y \\ z \end{pmatrix} \\ &= \begin{pmatrix} x & y & z \end{pmatrix} P^T P A P^T P \begin{pmatrix} x \\ y \\ z \end{pmatrix} + 2 \boldsymbol{b}^T P^T P \begin{pmatrix} x \\ y \\ z \end{pmatrix} \\ &= \begin{pmatrix} X & Y & Z \end{pmatrix} D \begin{pmatrix} X \\ Y \\ Z \end{pmatrix} + 2 \boldsymbol{b}^T P^T \begin{pmatrix} X \\ Y \\ Z \end{pmatrix} \\ &= 4X^2+2Y^2-Z \end{align}
平面 $y-z-\sqrt{2}=0$ は次のように書き直せる： \begin{align} \begin{pmatrix} 0 & 1 & -1 \end{pmatrix} \begin{pmatrix} x \\ y \\ z \end{pmatrix} &= \sqrt{2} \\ \begin{pmatrix} 0 & 1 & -1 \end{pmatrix} P^T \begin{pmatrix} X \\ Y \\ Z \end{pmatrix} &= \sqrt{2} \end{align} これを整理して $Z=1$ を得る。
また、 3. で得た \begin{align} 4X^2 + 2Y^2 - Z = 0 \end{align} は、 $Z (\gt 0)$ を固定すると、 $X,Y$ に関する楕円の方程式であり、その面積 $S(Z)$ は、 \begin{align} S(Z) = \pi \sqrt{\frac{Z}{4}} \sqrt{\frac{Z}{2}} = \frac{\pi}{2 \sqrt{2}} Z \end{align} である。
よって、求める体積は、 \begin{align} \int_0^1 S(Z) dZ = \frac{\pi}{2 \sqrt{2}} \int_0^1 Z dZ = \frac{\pi}{4 \sqrt{2}} \end{align} である。