引例1

设 $A,B$ 是数域 $\mathbb{F}$ 上的 $n$ 阶矩阵，满足：$AB=BA$ 且 $A,B$ 的特征值都在 $\mathbb{F}$ 中，求证：$A,B$ 在 $\mathbb{F}$ 上可同时上三角化，即存在 $\mathbb{F}$ 上的可逆矩阵 $P$ ，使得 $P^{-1}AP$ 和 $P^{-1}BP$ 都是上三角矩阵．

证明 :
对阶数进行归纳．当 $n=1$ 时结论显然成立
设对 $n-1$ 阶矩阵结论成立，现对 $n$ 阶矩阵进行证明:
因为 $AB=BA$ 且 $A,B$ 的特征值都在 $\mathbb{F}$ 中，$A,B$ 有公共的特征向量 $e_1\in {\mathbb{F}}^n$ ，不妨设

其中 ${\lambda }_1,{\mu }_1\in \mathbb{F}$ 分别是 $\mathbf{A},\mathbf{B}$ 的特征值．
由基扩张定理，可将 $e_1$ 扩张为 ${\mathbb{F}}^n$ 的一组基 $\left\{e_1,e_2,\cdots ,e_n\right\}$ ．令 $P=\left(e_1,e_2,\cdots ,e_n\right)$ ，则 $P$ 是 $\mathbb{F}$ 上的 $n$ 阶可逆矩阵，且有

其中 $A_1,B_1$ 是 $\mathbb{F}$ 上的 $n-1$ 阶矩阵．
从 $AB=BA$ 不难推出 $A_1{B}_1=B_1{A}_1$ ，又易验证 $A_1,B_1$ 的特征值都在 $\mathbb{F}$ 中
故由归纳假设，存在 $\mathbb{F}$ 上的 $n-1$ 阶可逆矩阵$Q$ ，使得 $Q^{-1}{A}_{1}Q$ 和 $Q^{-1}{B}_{1}Q$ 都是上三角矩阵。
令

则 $R$ 是 $\mathbb{F}$ 上的 $n$ 阶可逆矩阵，且

都是上三角矩阵。

例题1

设A,B为n阶复矩阵，且存在a,b使得$AB-BA=aA+bB$
证明：存在可逆矩阵P使得$P^{-1}AP$和$P^{-1}BP$都是上三角矩阵

分两种情况讨论：
若 $a=b=0$ ，则 $\mathbf{AB}=\mathbf{B}\mathbf{A}$ ，可知 $\mathbf{A},\mathbf{B}$ 可以同时上三角化．

若 $a,b$ 不全为零，不妨设 $a\ne 0$ ，可在等式 $\mathbf{AB}-\mathbf{B}\mathbf{A}=a\mathbf{A}+b\mathbf{B}$ 两边除以 $a$ ，并用 $a^{-1}\mathbf{B}$ 替代 $\mathbf{B}$ ，故不妨设 $a=1$ ．
将上述等式改写为 $(\mathbf{A}+b\mathbf{B})\mathbf{B}-\mathbf{B}(\mathbf{A}+b\mathbf{B})=\mathbf{A}+b\mathbf{B}$ ，故不妨设 $b=0$ ．
由此我们只要证明：若 $\mathbf{A}\mathbf{B}-\mathbf{B}\mathbf{A}=\mathbf{A}$ ，则 $\mathbf{A},\mathbf{B}$ 可同时上三角化．
首先， $\mathbf{A}$ 的特征值全为零，其特征子空间设为 $V_0$ ，则容易验证 $V_0$ 是 $\mathbf{B}$－不变子空间，由此可证明 $\mathbf{A},\mathbf{B}$ 有公共的特征向量．再仿照引例1的证明，对阶数进行归纳即可完成证明．