داریم f(x)=ax+b. بنابراین خواهیم داشت:
$ fof(x)=f(f(x))=f(ax+b)=a(ax+b)+b= a^{2}x+ab+b=a^{2}x+b(a+1) $
از طرف دیگر طبق فرض مساله داریم: fof(x) =4x+3
بنابراین دو طرف را با هم مساوی می گیریم. توجه می کنیم که هر دو خط هستند بنابراین ضرایب x با هم و عرض از مبدا ها باید باهم برابر باشند:
$ a^{2}x+b(a+1)=4x+3 \Rightarrow a^{2}=4 $
از $ a^{2}=4 $ نتیجه می شود که a=2 و یا a=-2 است که باید هر دو حالت را لحاظ کنیم و مقدار b را بیابیم. پس داریم:
$ \begin{cases}a=2 \Rightarrow & 3b=3 \Rightarrow b=1\\a=-2 \Rightarrow & -b=3 \Rightarrow b=-3\end{cases}
$
بنابراین دو جواب داریم:
$ \begin{cases}a=2 , b=1\Rightarrow & f(x)=2x+1\\a=-2 ,b=-3 \Rightarrow & f(x)=-2x-3\end{cases}
$
