قرار می دهیم $ P=\begin{bmatrix}1 &1& \ldots 1 \\1 &1& \ldots 1\\ \vdots & \vdots & \ddots \vdots \\1 &1& \ldots 1 \end{bmatrix} $
می دانیم اگر ماتریس از مرتبه $n$ باشد آنگاه :
$P^2=nP$
حال حل سوال شما.
ماتریس گفته شده را می توان به صورت $BP+(A-B)I$ نوشت.
حال حدس می زنیم که وارون آن به صورت $KP+ \frac{1}{A-B} I$ باشد و مقدار $K$ را می یابیم.
$$(BP+(A-B)I)(KP+ \frac{1}{A-B} I)=I$$
پس داریم:
$$(nBK+(A-B)K+ \frac{B}{A-B})P+I=I $$
کافیست $nBK+(A-B)K+ \frac{B}{A-B}=0$
که با حل آن داریم:
$$K= \frac{-B}{(A-B)(nB+A-B)} $$
پس وارون برابر است با:
$$ \frac{-B}{(A-B)(nB+A-B)}P+ \frac{1}{A-B} I $$
این جواب برگرفته از جوابی است که قبلا دیده بودم.