ابتدا کمی ضابطه را ساده میکنیم. داریم:
$$g(2g(2n^2+2n)+5n)=4n+1$$
از $g(2n^2+2n)$ شروع میکنیم. فرض میکنیم مقدار آن برابر $\alpha $ شود. در نتیجه داریم:
$$(2n^2+2n,\alpha) \in g$$
و چون g معکوس f است. پس:
$$(\alpha,2n^2+2n) \in f$$
حال این سوال پیش میآید که $\alpha $ چه مقداری داشته که وقتی آن را به f تحویل داده ایم، f مقدار $2n^2+2n $ را تحویل داده است. با کمی دقت متوجه میشویم که این مقدار $\frac23n^2+\frac23n $ بوده است.(لازم به ذکر است که در اینجا فرض میکنیم که $n^2+n $ بر 3 بخش پذیر است تا داخل براکت عددی صحیح شود و خودش بیرون بیاید)
از آنجایی که$\alpha$ برابر $\frac23n^2+\frac23n $ نتیجه میگیریم که $2g$ برابر $\frac43n^2+\frac43n $ میشود.حال اگر با $5n$ جمع شود خواهیم داشت:
$$g(\frac43n^2+\frac{19}{3}n)=4n+1$$
دوباره مثل قبل عمل میکنیم. پیش خود میگوییم که:
$$(\frac43n^2+\frac{19}{3}n,4n+1) \in g$$
در نتیجه:
$$(4n+1,\frac43n^2+\frac{19}{3}n) \in f$$
خب حالا باید معادله زیر را حل کنیم:
$$8n+2+4n+1=\frac43n^2+\frac{19}{3}n$$
ریشه های این معادله : $n=\frac18(17-\sqrt{433})$ و $n=\frac18(17+\sqrt{433})$ میشود که با فرض طبیعی بودن n در تناقض است. در نتیجه معادله شما با توجه به شرطی که گذاشتید(و شرط خودمان)، جواب ندارد.