برای دوران از ماتریس دوران زیر استفاده می کنیم.
$ \begin{bmatrix}x \\y \end{bmatrix} = \begin{bmatrix}cos \theta & -sin \theta \\sin \theta & cos \theta \end{bmatrix} \begin{bmatrix}x^{'} \\y^{'} \end{bmatrix} $
در این سوال متغییرها $y $ و $ z $ هستند و زاویه دوران $ \frac{\pi}{4} $ است.
پس در این سوال داریم:
$$ \begin{bmatrix}y \\z \end{bmatrix} = \frac{ \sqrt{2} }{2} \begin{bmatrix}1 & -1 \\1 &1 \end{bmatrix} \begin{bmatrix}y^{'} \\z^{'} \end{bmatrix} $$
پس داریم:
$$ \begin{cases}y=\frac{ \sqrt{2} }{2}(y^{'}-z^{'})\\z=\frac{ \sqrt{2} }{2}(y^{'}+z^{'})\end{cases} $$
با جایگذاری داریم:
$$5(y^{'}-z^{'})^2+5(y^{'}+z^{'})^2-8(y^{'}-z^{'})(y^{'}+z^{'})=6 \Rightarrow $$
$$ 10{y^{'}}^2+10{z^{'}}^2-8{y^{'}}^2+8{z^{'}}^2=6 \Rightarrow $$
$$2{y^{'}}^2+18{z^{'}}^2=6$$