Note

设A是mn阶矩阵B是nm阶矩阵，则
$|\lambda I_m-AB|={\lambda }^{m-n}|\lambda I_n-AB|$

可以尝试从三种不同的角度证明，一种是利用连续性的摄动法，一种是从行列式与矩阵的秩出发，最后一种是推广行列式的降幂公式
第一种分析味很浓，第二种简洁而不失优雅，第三种是$Cauchy-Binet$公式的直接推广。这里着重记录前两种方法。

摄动法

从方阵的情况考虑，如A可逆，则$BA=A^{-1}(AB)A$即AB与BA相似，因此他们的特征多项式相等。取有理数列$t_k\to 0$使得$t_k{I}_n+A$是可逆矩阵，则有：$|\lambda I_n-(t_k{I}_n+A)B|=|\lambda I_n-B(t_k{I}_n+A)|$
注意到上式对于$t_k$连续，则同时取极限后令$t_K\to 0$即成立
下证$M>N$情况的成立：
先令$C=\left(\begin{array}{cc}A& 0\end{array}\right),D=\left(\begin{array}{c}B\\ 0\end{array}\right)$
由此则$|\lambda I_m-AB|=|\lambda I_m-CD|=\left|\begin{array}{cc}\lambda I_m-CD& 0\\ 0& \lambda I_{m-n}\end{array}\right|={\lambda }^{m-n}|\lambda I_n-BA|$

行列式的秩

设A的秩为r,则总是存在$P,Q$使得$PAQ=\left(\begin{array}{cc}{I}_r& 0\\ 0& 0\end{array}\right)$
为了构造$AB$与$BA$，可以令$Q^{-1}B{P}^{-1}=\left(\begin{array}{cc}{B}_{11}& B_{12}\\ B_{21}& B_{22}\end{array}\right)$
其中$B_{11}$为r阶方阵，则$PAB{P}^{-1}=\left(\begin{array}{cc}{B}_{11}& B_{12}\\ 0& 0\end{array}\right)$
$Q^{-1}BAQ=\left(\begin{array}{cc}{B}_{11}& 0\\ B_{21}& 0\end{array}\right)$
因此$|\lambda I_m-AB|=\left|\begin{array}{cc}\lambda I_r-B_{11}& -B_{12}\\ 0& \lambda I_{m-r}\end{array}\right|={\lambda }^{m-r}|\lambda I_r-B_{11}|$
同理可求得$|\lambda I_n-BA|={\lambda }^{n-r}|\lambda I_r-B_{11}|$
比较上述两式可得证。