向量组的线性相关性和线性无关性
线性表示和线性组合
线性表示
给定 n 维向量组 A:α1,α2,⋯,αm 和 n 维向量 β,如果存在 m 个数 k1,k2,⋯,km,使得
β=k1α1+k2α2+⋯+kmαm
则称 β 可以由向量组 A 线性表示,或 β 是向量组 A 的一个线性组合。
等价向量组
等价向量组
如果向量组 A:α1,α2,⋯,αm 可以由向量组 B:β1,β2,⋯,βs 线性表示,且向量组 B 可以由向量组 A 线性表示,则称向量组 A 和 B 等价,表示为 A↔B。
线性相关和线性无关
线性相关
给定向量组 A:α1,α2,⋯,αm,如果存在不全为零的数 k1,k2,⋯,km,使得
k1α1+k2α2+⋯+kmαm=θ
则称向量组 A 线性相关,否则称向量组 A 线性无关。
以后我可能更常用 θ 表示零向量,而不是 0。
另外,A↔B⟹A,B 线性相关性相同。
例如 A=(α1,α2),B=(α1,α2,α1+α2),则 A↔B,但 A 线性无关,B 线性相关。
设 αi∈Rn,则 (α1,⋯,αn) 线性相关 ⟺det([α1,⋯,αn])=0。
- 如果一向量组的部分向量组线性相关,则整个向量组线性相关。
- 如果一向量组线性无关,则它的任意部分向量组也线性无关。
向量组线性相关 ⟺ 齐次线性方程组有非零解 ⟺ 齐次线性方程组的系数行列式为 0。
设向量组 A:α1,α2,⋯,αr 线性无关,而向量组 B:α1,α2,⋯,αr,β 线性相关,则向量 β 可由向量组 A 线性表示。
证明:设 n 维向量组 A:α1,α2,⋯,αn 线性无关,B 为 n 阶方阵,则向量组 Bα1,Bα2,⋯,Bαn 线性无关 ⟺B 可逆。
⟹:
[Bα1,Bα2,⋯,Bαn]=B[α1,α2,⋯,αn]=BA
而 det(BA)=det(B)det(A)=0,所以 B 可逆。
⟸:
令 k1Bα1+k2Bα2+⋯+knBαn=θ,则左乘 B−1,得
k1α1+k2α2+⋯+knαn=θ
而 A 线性无关,所以 k1=k2=⋯=kn=0,所以 Bα1,Bα2,⋯,Bαn 线性无关。
极大无关组 秩
极大无关组
极大无关组
最小的能张成原向量组 A 的子向量组称为 A 的一个极大无关组。
按书本的定义即是:
极大无关组是原向量组的一个分组,满足:
- 其线性无关
- 原向量组的任意一个向量都可以由它线性表示
秩
秩
向量组 A 的极大无关组的向量个数称为 A 的秩,记为 r(A)。
极大无关组向量个数相同的证明我忘了。由于课本先讲的矩阵的秩,课本的证明用了矩阵的秩。
可理解为,秩是向量组张成的空间的维数。
若 A 可由 B 线性表示,则 r(A)⩽r(B)。
既然 B 能线性表示 A,则说明 A 张成的空间是 B 张成的空间的子空间。
由于矩阵 Am×n 可以看作是 m 个 n 维行向量组成的向量组,及 n 个 m 维列向量组成的向量组,所以矩阵的秩分为行秩和列秩。
对矩阵作初等变换(包括初等行变换和初等列变换)不改变其行秩和列秩。
行秩和列秩相等,称为矩阵的秩。证明我也忘了(非常关键重要的部分怎么感觉上课好像没怎么听)。
设 A 为 m×n 矩阵,则 r(A)⩽min{m,n}。
对 Am×n,Pm,Qn,且有 ∣P∣∣Q∣=0 有
r(PAQ)=r(A)
即对矩阵作初等变换不改变其秩。
对 k=0,有
r(kA)=r(A)
对 A=[aij]m×n,B=[bij]m×r,C=[AB]m×(n+r) 有
r(A)+r(B)⩾r(C)⩾max{r(A),r(B)}
也非常好理解,毕竟 A 和 B 向量组的极大无关组的向量一定也是 C 的极大无关组的向量(或可由里面的向量表示),所以 r(C)⩾max{r(A),r(B)}。
而如果 B 极大无关组的每个向量都不可由 A 的极大无关组线性表示,那么 B 就提供了最多的新信息,所以这种情况下有 r(A)+r(B)=r(C)。
当然,这不是严谨的证明。
对同阶矩阵 A,B,有
r(A)+r(B)⩾r(A+B)⩾∣r(A)−r(B)∣
下界的证明:
r(A)=r[(A+B)+(−B)]⩽r(A+B)+r(−B)=r(A+B)+r(B)
从而有
r(A+B)⩾r(A)−r(B)
对 Am×n,Bn×r,有
min{r(A),r(B)}⩾r(AB)⩾r(A)+r(B)−n
上界的证明:
设 r(A)=r1,r(B)=r2,则有可逆矩阵 P,Q 使得 A=PA′,B=B′Q,其中 A′ 为行梯形矩阵。B′ 为列梯形矩阵。
那么有 AB=PA′B′Q,所以 r(AB)=r(A′B′)。
而 A′ 至多有 r1 个非零行,B′ 至多有 r2 个非零列,所以 A′B′ 至多有 r1 个非零行,r2 个非零列,所以 r(A′B′)⩽min{r1,r2}。
所以 r(AB)⩽min{r1,r2}。
下界的证明:
设 r(A)=s,设 PAQ 为标准形矩阵,其中 P,Q 为可逆矩阵,则
r(AB)=r[(PAQ)(Q−1B)]=r([EsOOO][B1B2]sn−s)=r([B1O])⩾r([B1B2])−r([OB2])=r(B)−r(B2)⩾r(B)−(n−s)=r(A)+r(B)−n
对 A=[POOQ],B=[PORQ] 有
r(A)r(B)=r(P)+r(Q)⩾r(P)+r(Q)
线性方程组解的结构
高斯消元法
以前写过了,这里主要提一点比较容易错的。顺便试着写一下增广矩阵。
解 AX=B,即是解增广矩阵 C=[AB]。仅可以进行行变换。
最后会变为 C′=[EA−1B],有 X=A−1B。
解 XA=B,即是解增广矩阵 C=[AB]。仅可以进行列变换。
最后会变为 C′=[EBA−1],有 X=BA−1。
线性方程组的可解性
一般线性方程组可表示为
⎩⎨⎧a11x1+a12x2+⋯+a1nxna21x1+a22x2+⋯+a2nxn⋮am1x1+am2x2+⋯+amnxn=b1=b2=bm
矩阵形式为
Ax=β
线性方程组 Ax=β 有解 ⟺ 系数矩阵的秩等于增广矩阵的秩。
- 当 r(A)=r(B)=n 时,方程组有唯一解。
- 当 r(A)=r(B)<n 时,方程组有无穷多解。
其中
A=a11a21⋮am1a12a22⋮am2⋯⋯⋱⋯a1na2n⋮amn
B=[Aβ]=a11a21⋮am1a12a22⋮am2⋯⋯⋱⋯a1na2n⋮amnb1b2⋮bm
增广矩阵 LaTeX 代码
1 2 3 4 5 6 7 8
| \begin{bmatrix} \begin{array}{cccc|c} a_{11} & a_{12} & \cdots & a_{1n} & b_1 \\ a_{21} & a_{22} & \cdots & a_{2n} & b_2 \\ \vdots & \vdots & \ddots & \vdots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} & b_m \end{array} \end{bmatrix}
|
齐次线性方程组
齐次线性方程组可表示为 Ax=θ。
而注意到齐次线性方程组的解的线性组合仍然是它的解,所以称表示出齐次线性方程组所有解的极大无关向量组为齐次线性方程组的基础解系。
设 A∈Rm×n,若 r(A)=n,则齐次线性方程组 Ax=θ 只有零解;若 r(A)<n,则齐次线性方程组 Ax=θ 有非零解。
若 r(A)=n,由前知方程组有唯一解,显然零解是唯一解。
齐次线性方程组基础解系的解法
- 将齐次线性方程组的系数矩阵化为行梯形矩阵。
- 将每个只有一个 1 的列向量作为非自由变量,其余列向量作为自由变量,得到基础解系。
- 将自由变量自由取值(通常取为只有一个维数为 1,其余全为 0 的向量 ei ),表示非自由变量,从而得到所有解向量,即基础解系。
由此可知基础解系向量的个数为 n−r(A)。
对于一般的情况,化简为以下形式:
10⋮00⋮0d120⋮00⋮0⋯⋯⋱⋯⋯⋱⋯01⋮00⋮0d1,i2+1d2,i2+1⋮00⋮0⋯⋯⋱⋯⋯⋱⋯00⋮10⋮0di,ir+1d2,ir+1⋮dr,ir+10⋮0⋯⋯⋱⋯⋯⋱⋯d1nd2n⋮drn0⋮0112d12⋯⋯i20i2+1d1,i2+1⋯⋯ir0ir+1di,ir+1⋯⋯nd1n
解释一下,ij(j=2,3,⋯,r) 代表第 j 个非自由变量的位置(没有 i1 因为 i1 就是 1)。
然后看每行,根据其方程组的含义,可以将每行的 1 解出来。也就是说我们可以用剩下的 n−r 个变量,给它们赋值(彼此赋值线性无关),也就是作为自由变量。
为了方便起见,往往是依次将一个自由变量取为 1,而其它取为 0,总计 n−r 种取法(n−r 个变量每个取一次 1)。
若系数矩阵化简后为
10⋮00⋮001⋮00⋮0⋯⋯⋱⋯⋯⋱⋯00⋮10⋮0d1,r+1d2,r+1⋮dr,r+10⋮0⋯⋯⋱⋯⋯⋱⋯d1nd2n⋮drn0⋮0
或者写成块的形式
[ErOβ1θβ2θ⋯⋯βn−rθ]
那么基础解系为
α1=−β110⋮0,α2=−β201⋮0,⋯,αn−r=−βn−r00⋮1
若 A∈Rn,则有
r(A∗)=⎩⎨⎧n,1,0,r(A)=nr(A)=n−1r(A)⩽n−2
证明:
- 若 r(A)=n,则 A 可逆,所以 ∣A∗∣=0,所以 r(A∗)=n。
- 若 r(A)⩽n−2,根据秩的子式定义,有 A 所有 n−1 阶子式为 0,所以 A∗=O,所以 r(A∗)=0。
- 若 r(A)=n−1,由于 AA∗=∣A∣E=O,根据矩阵乘积秩的大小关系,有 r(A)+r(A∗)−n⩽r(O)=0,即 r(A∗)⩽1。而 A∗=O,有 r(A∗)=0。所以 r(A∗)=1。
非齐次线性方程组
非齐次线性方程组可表示为 Ax=β。通解可表示为
η+α
其中 Aη=β(称为特解),α 为齐次线性方程组 Ax=θ 的解。
等价表述及证明
设 A∈Rm×n,B∈Rk×n,则以下三种表述等价:
- Ax=θ 与 Bx=θ 同解。
- r([AB])=r(A)=r(B)
- A,B 行向量组等价
只需证明 (1) ⟹ (2) ⟹ (3) ⟹ (1) 即可。
(1) ⟹ (2):
设解集分别为 W1,W2,则 W1=W2。
那么 A,B 的极大无关组向量个数相同,即 n−r(A)=n−r(B),从而 r(A)=r(B)。
既然 Ax=θ 与 Bx=θ 同解,那么 Aη=θ⟹Bη=θ⟹[AB]η=θ。
而 [AB]η=θ⟹[AηBη]=θ⟹{AηBη=θ=θ,也就是说 Aη=θ 与 Bη=θ 同解。
根据上面的结论,也有 r(A)=r(B)=r([AB])。
(2) ⟹ (3):
设 A=[αi]m,B=[βi]k。
则 r(A)=r([AB])⟹r{α1,⋯,αm}=r{α1,⋯,αm,β1,⋯,βk}。
即 β1,⋯,βk 可由 α1,⋯,αm 线性表示,反之亦然。所以 A,B 行向量组等价。
(3) ⟹ (1):
既然 A,B 行向量组等价,那么有 A=Cm×kB,B=Dk×mA 且 C,D 可逆。
若 Ax=θ,则有 Bx=DAx=Dθ=θ,反之亦然。即 Ax=θ 与 Bx=θ 同解。
若 A,B∈Rm×n,则 A↔B⟺r(A)=r(B),也就是说,无法推出 A 与 B 行向量组等价。这是一个弱化的结论。
其它
1.
若 r(An)=n−1,证明 (A∗)2=λA∗。
由前可知 r(A∗)=1,从而可以将 A∗ 分解为 PΛQ,其中 P,Q 为可逆矩阵,Λ 为 [1O(n−1)×1O1×(n−1)O(n−1)×(n−1)]。
而 Λ 又可以分解为两个 n 维向量(列向量)的乘积,即
Λ=10⋮0[10⋯0]
若记 P=[α1α2⋯αn],Q=β1⊺β2⊺⋯βn⊺,则有
A∗=PΛQ=[α1α2⋯αn]10⋮0[10⋯0]β1⊺β2⊺⋯βn⊺=α1β1⊺
从而
A∗A∗=α1β1⊺α1β1⊺=α1(β1⊺α1)β1⊺=α1(λ)β1⊺=λα1β1⊺=λA∗