例2.2.6(2025数二)设3阶矩阵A，B满足r(AB)=r(BA)+1，则( )。(A)方程组(A+B)x=0只有零解(B)方程组Ax=0与Bx=0均只有零解(C)方程组Ax=0与Bx=0没有公共非零解(D)方程组ABAx=0与BABx=0有公共非零解

为了解决这个问题，我们需要分析给定条件 $ r(AB) = r(BA) + 1 $ 并确定它对矩阵 $ A $ 和 $ B $ 的 implications。 首先，让我们回顾一些关于矩阵秩的性质： 1. 对于任何矩阵 $ A $ 和 $ B $， $ r(AB) \leq \min(r(A), r(B)) $。 2. 同样， $ r(BA) \leq \min(r(B), r(A)) $。 给定 $ r(AB) = r(BA) + 1 $，我们可以推断 $ r(AB) $ 比 $ r(BA) $ 多1。这意味着 $ r(AB) $ 和 $ r(BA) $ 不能同时达到 $ \min(r(A), r(B)) $ 的最大值。因此， $ r(A) $ 和 $ r(B) $ 中至少有一个必须小于3（因为 $ A $ 和 $ B $ 是3阶矩阵）。 现在，让我们分析每个选项： (A) 方程组 $ (A+B)x = 0 $ 只有零解。 - 这意味着 $ A + B $ 是可逆的，即 $ r(A + B) = 3 $。然而，我们没有关于 $ r(A + B) $ 的信息，所以不能确定这一点。 (B) 方程组 $ Ax = 0 $ 与 $ Bx = 0 $ 均只有零解。 - 这意味着 $ A $ 和 $ B $ 都是可逆的，即 $ r(A) = 3 $ 和 $ r(B) = 3 $。但是，如果 $ r(A) = 3 $ 和 $ r(B) = 3 $，那么 $ r(AB) = r(BA) = 3 $，这与给定条件 $ r(AB) = r(BA) + 1 $ 矛盾。因此，这个选项是错误的。 (C) 方程组 $ Ax = 0 $ 与 $ Bx = 0 $ 没有公共非零解。 - 如果 $ Ax = 0 $ 和 $ Bx = 0 $ 有公共非零解 $ x $，那么 $ Ax = 0 $ 和 $ Bx = 0 $。这意味着 $ x $ 在 $ A $ 和 $ B $ 的零空间中， $ A $ 和 $ B $ 的零空间的交集不是零。这表明 $ r(A) + r(B) < 6 $（因为 $ A $ 和 $ B $ 的零空间的维数之和大于0）。然而，我们没有关于 $ r(A) $ 和 $ r(B) $ 的确切值的信息，但给定条件 $ r(AB) = r(BA) + 1 $ 暗示 $ r(A) $ 和 $ r(B) $ 不能同时达到3，所以它们的零空间可能没有交集。为了确认，让我们考虑 $ r(AB) $ 和 $ r(BA) $ 的可能值： - 如果 $ r(BA) = 2 $，那么 $ r(AB) = 3 $。这意味着 $ r(A) = 3 $ 或 $ r(B) = 3 $，但不是两者，所以 $ A $ 和 $ B $ 的零空间没有交集。 - 如果 $ r(BA) = 1 $，那么 $ r(AB) = 2 $。这意味着 $ r(A) $ 和 $ r(B) $ 都小于3，但它们的零空间可能没有交集。 - 如果 $ r(BA) = 0 $，那么 $ r(AB) = 1 $。这意味着 $ r(A) $ 和 $ r(B) $ 都小于3，但它们的零空间可能没有交集。 在所有情况下， $ Ax = 0 $ 和 $ Bx = 0 $ 没有公共非零解是可能的。因此，这个选项是正确的。 (D) 方程组 $ ABAx = 0 $ 与 $ BABx = 0 $ 有公共非零解。 - 如果 $ ABAx = 0 $ 和 $ BABx = 0 $ 有公共非零解 $ x $，那么 $ ABAx = 0 $ 和 $ BABx = 0 $。这意味着 $ x $ 在 $ ABA $ 和 $ BAB $ 的零空间中。然而，我们没有关于 $ ABA $ 和 $ BAB $ 的零空间的信息，所以不能确定这一点。 因此，正确答案是 $\boxed{C}$。