$\omega = (-1+\sqrt{3}i)/2$ より、 \begin{align} \omega^2 = \frac{-1 - \sqrt{3}i}{2} , \ \ \omega^3 = 1 , \ \ 1 + \omega + \omega^2 = 0 \end{align} が成り立つことに注意して、次のように計算できる： \begin{align} A^2 &= \begin{pmatrix} 1 & 1 & 1 \\ 1 & \omega & \omega^2 \\ 1 & \omega^2 & \omega \end{pmatrix} \begin{pmatrix} 1 & 1 & 1 \\ 1 & \omega & \omega^2 \\ 1 & \omega^2 & \omega \end{pmatrix} \\ &= 3 \begin{pmatrix} 1 & 0 & 0 \\ 0 & 0 & 1 \\ 0 & 1 & 0 \end{pmatrix} \\ A^3 &= 3 \begin{pmatrix} 1 & 0 & 0 \\ 0 & 0 & 1 \\ 0 & 1 & 0 \end{pmatrix} \begin{pmatrix} 1 & 1 & 1 \\ 1 & \omega & \omega^2 \\ 1 & \omega^2 & \omega \end{pmatrix} \\ &= 3 \begin{pmatrix} 1 & 1 & 1 \\ 1 & \omega^2 & \omega \\ 1 & \omega & \omega^2 \end{pmatrix} \\ A^4 &= 3 \begin{pmatrix} 1 & 1 & 1 \\ 1 & \omega^2 & \omega \\ 1 & \omega & \omega^2 \end{pmatrix} \begin{pmatrix} 1 & 1 & 1 \\ 1 & \omega & \omega^2 \\ 1 & \omega^2 & \omega \end{pmatrix} \\ &= 9 \begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{pmatrix} \end{align}
$x+y+1=0$ に \begin{align} \begin{pmatrix} x \\ y \end{pmatrix} &= A \vec{x}' + \vec{x}_0 \\ &= \begin{pmatrix} -4x'+3y'+2 \\ 2x'+5y'-1 \end{pmatrix} \end{align} を代入して整理すると、 \begin{align} x' + 4y' + 1 = 0 \end{align} を得る。
行列 $X$ やベクトル $\vec{x}$ の転置をそれぞれ $X^T, \vec{x}^T$ で表す。 内積 $\vec{x} \cdot \vec{y}$ は $\vec{x}^T \vec{y}$ とも書ける。 また、単位行列を $I$ で表す。
さらに、行列 $X$ やベクトル $\vec{x}$ の複素転置（エルミート共役）をそれぞれ $X^\dagger, \vec{x}^\dagger$ で表す。 $X$ が実行列の場合は、 $X^\dagger = X^T$ である。
$A$ が直交行列であり $A^T A = I$ が成り立つことから、次のように計算できる： \begin{align} \left( A \vec{a} \right) \cdot \left( A \vec{b} \right) &= \left( A \vec{a} \right)^T \left( A \vec{b} \right) \\ &= \vec{a}^T A^T A \vec{b} \\ &= \vec{a}^T \vec{b} \\ &= \vec{a} \cdot \vec{b} \end{align}
$A$ の固有値を $\lambda$とし、対応する規格化された固有ベクトルを $\vec{v}$ とする （ $\vec{v}^\dagger \vec{v} = 1$ ）： \begin{align} A \vec{v} = \lambda \vec{v} \end{align} 両辺それぞれに自分自身の複素転置を左からかけると、 \begin{align} (左辺) &= \left( A \vec{v} \right)^\dagger A \vec{v} \\ &= \vec{v}^\dagger A^\dagger A \vec{v} \\ &= \vec{v}^\dagger A^T A \vec{v} \\ &= \vec{v}^\dagger \vec{v} \\ &= 1 \\ (右辺) &= | \lambda |^2 \vec{v}^\dagger \vec{v} \\ &= | \lambda |^2 \end{align} となるので、 $|\lambda| = 1$ がわかる。
\begin{align} I &= A^T A \\ &= \begin{pmatrix} \vec{a}_1^T \\ \vec{a}_2^T \end{pmatrix} \left( \vec{a}_1, \vec{a}_2 \right) \\ &= \begin{pmatrix} \vec{a}_1^T \vec{a}_1 & \vec{a}_1^T \vec{a}_2 \\ \vec{a}_2^T \vec{a}_1 & \vec{a}_2^T \vec{a}_2 \end{pmatrix} \end{align} であるから、$\vec{a}_1, \vec{a}_2$ それぞれのユークリッドノルムが $1$ であることと、 $\vec{a}_1, \vec{a}_2$ が直交することがわかる。
\begin{align} \vec{a}_2 = \begin{pmatrix} - \sin \theta \\ \cos \theta \end{pmatrix} \end{align}
\begin{align} \begin{pmatrix} \cos \theta & \sin \theta \\ \sin \theta & - \cos \theta \end{pmatrix} \begin{pmatrix} 1 \\ 0 \end{pmatrix} &= \begin{pmatrix} \cos \theta \\ \sin \theta \end{pmatrix} , \\ \begin{pmatrix} \cos \theta & \sin \theta \\ \sin \theta & - \cos \theta \end{pmatrix} \begin{pmatrix} 0 \\ 1 \end{pmatrix} &= \begin{pmatrix} \sin \theta \\ - \cos \theta \end{pmatrix} \end{align} であるから、求める直線は、原点を通り、 \begin{align} \begin{pmatrix} \cos \frac{\theta}{2} \\ \sin \frac{\theta}{2} \end{pmatrix} \end{align} を方向ベクトルとするような直線である。 ベクトルの第1成分をx、第2成分をyで表すと、その直線の方程式は、 \begin{align} y = x \tan \frac{\theta}{2} \end{align} である。