با سلام.
وقتی راس غیرواقع بر ضلعی که معادله ی آن به شما داده شده است وجود دارد بنابراین فاصله ی این نقطه تا ضلع برابر طول ضلع مربع خواهد بود. می دانیم مساحت مربع با ضلع به توان دو و یا قطر به توان دو تقسیم بر دو به دست می آید. با فرض این دو مورد سراغ حل سوال می رویم : ( ضلع را برابر $D$ در نظر می گیریم. )
فاصله ی نقطه ای مانند $(x1,y1)$ از خطی مثل $ax+by+c=0$:
$d= \frac{ |ax1+by1+c | }{ \sqrt{a^2+b^2} } $
$ \rightarrow D=\frac{ |m+3 | }{ \sqrt{2} } $
$S=D^2= \frac{6 \times 6}{2}=18= \frac{(m+3)^2}{2} $
$ \rightarrow 36=(m+3)^2 , m+3=6 / m+3=-6 \Rightarrow m=3,-9$
روش دیگر : می دانیم بنابر فیثاغورس دو ضلع مجاور مربع و قطر مربوطه تشکیل مثلث قائم الزاویه ای می دهند که رابطه ی فیثاغورس برای آن صادق است :
$a^2+a^2=d^2 \rightarrow 2a^2=d^2 , d= \sqrt{2}a $
$ \sqrt{2} \times \frac{ |m+3 | }{ \sqrt{2} }=6 $
هر دو روش تقریبا یکسان هستند با دو دید متفاوت.