پاسخ ویرایش شد.
هدف این است که مقادیری از m را پیدا کنیم که به ازای آن ها معادله زیر دارای سه جواب است:
$$ mx = sin(tan^{-1}x) $$
بحث در مورد تعداد ریشه های توابع چند جمله ای بسیار آسان تر از توابعی مثل این تابع است.با ساده سازی طرف راست معادله آن را به یک معادله از چندجمله ای ها تبدیل می کنیم.
حاصل $tan^{-1}x$ کمانی است که تانژانت آن برابر با $x$ است.اگر نام این کمان را $\alpha$ بگذاریم می توان نوشت:
$$ tan\alpha = x $$
$$tan^{-1}x = \alpha$$
$$ sin(tan^{-1}x) = sin\alpha $$
از آن جایی که مقدار $tan\alpha$ را می دانیم می توانیم با کمک اتحاد زیر $sin\alpha$ را محاسبه کنیم:
$$ cot^2\alpha + 1 = \frac{1}{sin^2\alpha} $$
$$ cot\alpha = \frac{1}{x} $$
$$ cot^2\alpha +1 = \frac{1+x^2}{x^2} $$
$$ sin\alpha = \sqrt{\frac{x^2}{1+x^2}} $$
$$ sin\alpha = \frac{x}{\sqrt{1+x^2}} $$
پس در حقیقت با معادله زیر طرف هستیم:
$$ mx = \frac{x}{\sqrt{1+x^2}} $$
$$ m = \frac{1}{\sqrt{1+x^2}} $$
با توجه به بالا واضح است که m نمی تواند منفی یا صفر باشد
معادله زیر باید دو ریشه داشته باشد.
$$m^2x^2 + m^2 - 1 = 0$$
برای آن که معادله بالا دوریشه متمایز داشته باشد $\Delta$ آن باید مثبت باشد.می دانیم صفر یکی از سه نقطه اشتراک دو تابع است.دقت کنید چون مقدار m هرچه باشد صفر در معادله بالا صدق نمی کند پس این دوریشه مطمئنا صفر نخواهند بود.
$$ \Delta > 0 $$
$$ 4m^2(1-m^2) > 0 $$
پاسخ نامعادله بالا $-1 < m < 1$ است.
اما m نمی تواند صفر یا منفی باشد پس پاسخ برابر با $0 < m < 1$ است.