\begin{align} \det \begin{pmatrix} 3 & 1 & 2 \\ 1 & 7 & 1 \\ 3 & 1 & 3 \end{pmatrix} &= 3 \cdot 7 \cdot 3 + 1 \cdot 1 \cdot 3 + 2 \cdot 1 \cdot 1 - 3 \cdot 7 \cdot 2 - 1 \cdot 1 \cdot 3 - 3 \cdot 1 \cdot 1 \\ &= 20 \end{align}
\begin{align} f'(x) &= \frac{-x^2+3}{(x^2+3)^2} \\ &= \frac{-(x+\sqrt{3})(x-\sqrt{3})}{(x^2+3)^2} \end{align} なので、増減表は次の通りである： \begin{array} {|c|ccccccc|} \hline x & -\infty & \cdots & -\sqrt{3} & \cdots & \sqrt{3} & \cdots & \infty \\ \hline f'(x) & & - & 0 & + & 0 & - & \\ \hline f(x) & 0 & \searrow & -\frac{1}{2\sqrt{3}} & \nearrow & \frac{1}{2\sqrt{3}} & \searrow & 0 \\ \hline \end{array} また、 \begin{align} f''(x) &= \frac{2x(x^2-9)(x^2+3)}{(x^2+3)^4} \\ f''(\sqrt{3}) &= - \frac{1}{6 \sqrt{3}} \end{align} である。 よって、 $f(x)$ の最大値は $f(\sqrt{3}) = 1/(2 \sqrt{3})$ であり、 最大点 $x = \sqrt{3}$ まわりでの2次の項までのテーラー展開は、 \begin{align} f(\sqrt{3}) + f'(\sqrt{3})(x-\sqrt{3}) + \frac{1}{2} f''(\sqrt{3})(x-\sqrt{3})^2 = \frac{1}{2 \sqrt{3}} - \frac{1}{12 \sqrt{3}} (x-\sqrt{3})^2 \end{align} である。
まず、 \begin{align} f(x) &= \mathrm{min} \left\{ 2x, x+1 \right\} \\ &= \begin{cases} 2x &(x \leq 1) \\ x+1 &(x \gt 1) \end{cases} \end{align} である。 $ 0 \leq t \leq 1 $ とする。 $x_1 \leq x_2 \leq 1$ のとき \begin{align} f((1-t)x_1+tx_2) &= 2((1-t)x_1+tx_2) \\ (1-t)f(x_1)+tf(x_2) &= 2(1-t)x_1 + 2tx_2 \end{align} であり、 $x_1 \lt 1 \lt x_2 $ のとき \begin{align} f((1-t)x_1+tx_2) &= \begin{cases} 2((1-t)x_1+tx_2) &((1-t)x_1+tx_2 \leq 1) \\ (1-t)x_1+tx_2+1 &(1 \lt (1-t)x_1+tx_2) \end{cases} \\ (1-t)f(x_1)+tf(x_2) &= 2(1-t)x_1 + t(x_2+1) \end{align} であり、 $1 \leq x_1 \leq x_2$ のとき \begin{align} f((1-t)x_1+tx_2) &= (1-t)x_1+tx_2 + 1 \\ (1-t)f(x_1)+tf(x_2) &= (1-t)(x_1+1) + t(x_2+1) \end{align} であるから、任意の $x_1,x_2$ について \begin{align} f((1-t)x_1+tx_2) \geq (1-t)f(x_1)+tf(x_2) \end{align} が成り立つ。 よって、 $f(x)$ は凹関数である。
累積分布関数 $F(x)$ に対応する確率密度関数は、 \begin{align} f(x) &= \frac{dF(x)}{dx} \\ &= \begin{cases} 0 &(x \lt 0) \\ 7x^6 &(0 \leq x \lt 1) \\ 0 &(1 \leq x) \end{cases} \end{align} である。
\begin{align} E(X_1) &= 7 \int_0^1 x^7 dx \\ &= \frac{7}{8} \end{align}
\begin{align} E(X_2^3) &= 7 \int_0^1 x^9 dx \\ &= \frac{7}{10} \\ E(Y) &= E(X_1) + 5 E(X_2^3) \\ &= \frac{35}{8} \end{align}
\begin{align} E(X_1^2) &= 7 \int_0^1 x^8 dx \\ &= \frac{7}{9} \\ E(Z) &= 2 \left( E(X_1^2) + 5 E(X_1) E(X_2^3) \right) \ \ \ \ \ \ \ \ ( X_1, X_2 \text{ が独立であることを使った} ) \\ &= \frac{553}{72} \end{align}