\begin{align} I(1) &= x^{-1} \int_0^x dy \\ &= 1 \\ I(x) &= x^{-1} \int_0^x (y+1) dy \\ &= x^{-1} \left( \frac{x^2}{2} + x \right) \\ &= \frac{1}{2} x + 1 \\ I(x^2) &= x^{-1} \int_0^x (y+1)^2 dy \\ &= x^{-1} \int_0^x (y^2+2y+1) dy \\ &= \frac{1}{3} x^2 + x + 1 \end{align}
\begin{align} \begin{pmatrix} I(x^2) & I(x) & I(1) \end{pmatrix} &= \begin{pmatrix} \frac{1}{3} x^2 + x + 1 & \frac{1}{2} x + 1 & 1 \end{pmatrix} \\ &= \begin{pmatrix} x^2 & x & 1 \end{pmatrix} \begin{pmatrix} \frac{1}{3} & 0 & 0 \\ 1 & \frac{1}{2} & 0 \\ 1 & 1 & 1 \end{pmatrix} \end{align} なので、求める表現行列は \begin{align} \begin{pmatrix} \frac{1}{3} & 0 & 0 \\ 1 & \frac{1}{2} & 0 \\ 1 & 1 & 1 \end{pmatrix} \end{align} である。
\begin{align} t &= \frac{1}{3} , \ \ f(x) = s(2x^2-12x+15) \ \ \ \ ( s \text{ は $0$ でない任意の実数 } ) \\ t &= \frac{1}{2} , \ \ f(x) = s(-x+2) \ \ \ \ ( s \text{ は $0$ でない任意の実数 } ) \\ t &= 1 , \ \ f(x) = s \ \ \ \ ( s \text{ は $0$ でない任意の実数 } ) \end{align}
\begin{align} I^n(x^2+x+1) &= 3^{-n} x^2 + \left( -6 \cdot 3^{-n} + 7 \cdot 2^{-n} \right) x + \left( \frac{15}{2} \cdot 3^{-n} - 14 \cdot 2^{-n} + \frac{15}{2} \right) \end{align}