بنام خدا.باتغییرمتغییر$$ \frac{1}{x} =t$$
$$ \lim_{x\to \infty } \frac{1}{x} = \lim_{t\to 0} t $$
ومقدار $ k^{2} +1=a$ داریم $$\lim_{x\to\infty}\frac{\cos(\frac{k^2+1}{x})-\cos(\frac{k^2+2}{x})\cos(\frac{k^2+3}{x})}{\sin(\frac{k^2+3}{x})\sin(\frac{k^2+2}{x})}= \lim_{t\to 0} \frac{cosat-cos(a+1)tcos(a+2)t}{sin(a+2)tsin(a+1)t} = \frac{0}{0} $$
مبهم است ازتبدیل ضرب به جمع وقانون هوپیتال(2 مرتبه) استفاده می کنیم:
$$ \lim_{t\to 0} \frac{cosat- \frac{1}{2}[cos(2a+3)t+cost] }{ \frac{-1}{2}[cos(2a+3)t-cost ]} = \lim_{t\to 0} \frac{-2cosat+cos(2a+3)t+cost}{cos(2a+3)t-cost } $$
$$ \lim_{t\to 0} \frac{2asinat-(2a+3)sin(2a+3)t-sint}{-(2a+3)sin(2a+3)t+sint}=\lim_{t\to 0} \frac{2a^2cosat-(2a+3)^2cos(2a+3)t-cost}{-(2a+3)^2cos(2a+3)t+cost}= \frac{2a^2-(2a+3)^2-1}{-(2a+3)^2+1}= \frac{3}{4} $$
اگراین معادله راطرفین وسطین وسپس ساده کنیم آنگاه
$$a^2-3a-4=0 \Rightarrow a=-1 و a=4 $$
جواب منفی یک غیرقابل قبول وجواب 4=a قابل قبول یعنی $$ k^2+1=4 \Rightarrow k^2=3$$