با استفاده از قانون کسینوس ها در مثلث های $\triangle AMC$ و $\triangle AMB$ داریم $$b^2=AM^2+MC^2-2MC.MH$$
و
$$c^2=AM^2+BM^2+2BM.MH$$
با جمع طرفین داریم:
$$b^2+c^2=2AM^2+2(\frac a2)^2\tag{*}\label{*}$$
(توجه کنید از خاصیت میانه بودن داریم $BM=CM=\frac a2$ )
اما بنابر قضیه فیثاغورت در مثلث $\triangle AMH$ داریم
$$ AM^2=MH^2+AH^2 $$
از طرفی بنابر قضیه فیثاغورث در مثلث $\triangle AHC$ داریم $$AH^2=b^2-CH^2$$
اما $CH=CM-MH=\frac a2-MH$ پس $$CH^2=\frac{a^2}4-a.MH+MH^2$$
پس با جاگذاری در $\eqref{*}$ داریم:
$$\require{cancel}b^2+c^2=2(\cancel{MH^2}+b^2-\cancel{\frac{a^2}4}+a.MH-\cancel{MH^2})+\cancel{\frac{a^2}2}$$
بنابراین $$\color{red}{c^2-b^2=2a.MH}$$
که از این جا هم طول مورد نظر شما به دست می آید.
توجه کنید بنابر شکلی که شما کشیدید ما فرض کردیم $c> b$ و بنابراین $c^2-b^2$ عبارت مثبتی است. چنانچه ندانیم کدام یک بزرگتر هستند بهتر است از قدر مطلق استفاده کنیم. یعنی $$|c^2-b^2|=2a.MH$$