روش های زیادی وجود داره که با مراجعه به کتاب های جبرخطی میتونید اطلاعات زیادی به دست بیارید. اما در اینجا یک روش جالب رو براتون توضیح میدم.
فرض کنیم $A$ ماتریسی $m \times n$ باشه. برای هر جفت از اندیس های $2 \leq i \leq m$ و $2 \leq j \leq n$ زیردترمینان $2 \times 2$ به صورت زیر تعریف میکنیم
$$ d_{ij}=| \begin{bmatrix} a_{11} & a_{1j} \\ a_{i1} & a_{ij} \end{bmatrix}|=a_{11}a_{ij}-a_{i1}a_{1j} $$
در اینصورت با فرض $ a_{11} \neq 0 $ داریم
$$rank(A)=1+rank \big( \begin{bmatrix} d_{22} & \cdots & d_{2n} \\ \vdots & &\\ d_{m2} & \cdots & d_{mn} \end{bmatrix} ) $$
اثباتش ساده ولی اثباتش رو در اینجا ذکر نمیکنم و در انتها ارجاع میدم. به عنوان مثال
$$rank \begin{bmatrix}3 & -8 & 7 \\5 & -4 & 9 \\ 2 & 3 & 6 \end{bmatrix}=1+rank \begin{bmatrix}28 & -8 \\25 & 4 \end{bmatrix}=2+rank(312)=3 $$
$$rank \begin{bmatrix}4 & 3 & -5 & 6 \\6 & 2 & 0 & 2 \\ 3 & 5 & -12 & 5 \\ 2 & 2 & -4 & 2 \end{bmatrix}=1+rank \begin{bmatrix}10 & 30 & -28 \\11 & -33 & 2 \\ 2 & -6 & -4 \end{bmatrix}=2+rank \begin{bmatrix}0 & 288 \\0 & 96 \end{bmatrix} =3 $$
مرجع
linear algebra gems--david carlson ,johnson