Author: abklis
线性方程组
高斯(Gauss)消元法
基本概念
含有 $n$ 个未知量 $m$ 个线性方程组的一般形式为:
$$
\begin{cases}
a_{11}x_1 + a_{12}x_2 +\cdots+ a_{1n}x_n = b_1 \\
a_{21}x_1 + a_{22}x_2 +\cdots+ a_{2n}x_n = b_2 \\
\quad\cdots\cdots\cdots\cdots\cdots\\
a_{m1}x_1 + a_{m2}x_2 +\cdots+ a_{mn}x_n = b_m
\end{cases}
$$
方程组的矩阵形式为:
$$
AX = b\\
A=
\begin{pmatrix}
a_{11}&a_{12}&\cdots &a_{1n}\\
a_{21}&a_{22}&\cdots &a_{2n}\\
\vdots &\vdots&\quad&\vdots\\
a_{m1}&a_{m2}&\cdots &a_{mn}\\
\end{pmatrix}
,X=
\begin{pmatrix}
x_1\\x_2\\\vdots\\x_n
\end{pmatrix}
,b=
\begin{pmatrix}
b_1\\b_2\\\vdots\\b_m
\end{pmatrix}
$$
- 系数矩阵:记上述的 $A$ 为系数矩阵
- 增广矩阵:记
$$
\widetilde{A}=
\left(\begin{array}{c:c}
A&b
\end{array}\right)
=
\left(\begin{array}{cccc:c}
a_{11}&a_{12}&\cdots &a_{1n}&b_1\\
a_{21}&a_{22}&\cdots &a_{2n}&b_2\\
\vdots &\vdots&\quad&\vdots&\vdots\\
a_{m1}&a_{m2}&\cdots &a_{mn}&b_m\\
\end{array}\right)
$$
$\widetilde{A}$ 称为A的增广矩阵
若 $b$ 全为 $0$,则为齐次线性方程组,否则为非齐次线性方程组
若方程组有解,则称方程组是相容的,否则就是不相容的
高斯消元法
跟初高中那套方法差不多,只不过这里直接对增广矩阵进行初等行变换为行阶梯型矩阵,然后再代回去,看起来好看点
接下来讨论方程组解的个数与矩阵秩的关系:
1
2
3
4
5
6
7
8
9
|
graph LR;
A[线性方程组]-->B(齐次方程组);
A[线性方程组]-->C(非齐次方程组);
B-->|秩=变量数|D[唯一解,全为0]
B-->|秩<变量数|E[无数多解]
C-->noresult[系数矩阵的秩<增广矩阵的秩,无解]
C-->y(系数矩阵的秩=增广矩阵的秩)
y-->|秩=变量数|De[唯一解]
y-->|秩<变量数|Eg[无数多解]
|
为了介绍无数解中自由变量和主元的概念,我们先引入一个例题
例:
$$
\begin{cases}
x+y+2z=1\\
2x-y+3z=2\\
x-2y+z=1
\end{cases}
$$
化简后的矩阵为:
$$
\begin{pmatrix}
1&1&2&1\\
0&3&1&0\\
0&0&0&0
\end{pmatrix}
$$
易得系数矩阵秩 < 变量数,所以有无数解,我们让其中一个变量任取,其他变量的值就可以跟着确定了
$$
\begin{cases}
x+y+2z=1\\
3y+z=0
\end{cases}
\Rightarrow
\begin{cases}
x=1-5k\\
y=-k\\
z=3k
\end{cases}
\Rightarrow
\begin{bmatrix}
x\\y\\z
\end{bmatrix}
=
\begin{bmatrix}
1\\0\\0
\end{bmatrix}
+
k
\begin{bmatrix}
-5\\-1\\3
\end{bmatrix}
$$
我们称类似于 $z$ 的为自由变量,我们将每一行第一个非零数字的位置称之为主元
当有无数解时,有(变量个数-系数矩阵的秩)个自由变量,优先选则对应列不存在主元的作为自由变量,比如在例子中主元在第一列和第二列,我们就选取第三列对应的变量 $z$ 作为自由变量
$n$ 维向量组的线性相关性
$n$ 维向量的概念
数域 $F$ 上的 $n$ 个数 $a_1,a_2,\cdots,a_n$ 组成的有序数组 $(a_1,a_2,\cdots,a_n)$ 称为数域 $F$ 上的一个 $n$ 维向量,记作 $\alpha$
可写成矩阵的形式:
- 行向量: $\alpha =(a_1,a_2,\cdots,a_n)$
- 列向量:
$$
\alpha =
\begin{pmatrix}
a_1\\a_2\\ \vdots \\ a_n
\end{pmatrix},\text{或}
\alpha =(a_1,a_2,\cdots,a_n)^\Tau
$$
基本(单位)向量: $n$ 维向量中,一个元素为 $1$ ,其它全为 $0$ 的向量
$n$ 维向量组的运算规则和矩阵运算规则无异
向量间的线性关系
- 线性组合: 给定多个向量 $\alpha_1,\alpha_2,\cdots,\alpha_m,\beta$ ,如果存在一组数 $k_1,k_2,\cdots,k_m$ ,使 $\beta$ 可以表示为 $k_1\alpha_1+k_2\alpha_2+\cdots+k_m\alpha_m$ ,则称 $\beta$ 是向量组的线性组合,或者说向量 $\beta$ 可以由向量组 $\alpha_1,\alpha_2,\cdots,\alpha_m$ 表示
向量 $\beta$ 可以由向量组 $\alpha_1,\alpha_2,\cdots,\alpha_m$ 表示的充要条件为 $r(\alpha_1,\alpha_2,\cdots,\alpha_m)=r(\alpha_1,\alpha_2,\cdots,\alpha_m,\beta)$
向量组间的线性相关
-
对于向量组 $\alpha_1,\alpha_2,\cdots,\alpha_m$ ,如果存在不全为0的实数 $k_1,k_2,\cdots,k_m$ 使得 $k_1\alpha_1+k_2\alpha_2+\cdots+k_m\alpha_m=0$ ,则称 $\alpha_1,\alpha_2,\cdots,\alpha_m$ 线性相关,如果只有 $k_1,k_2,\cdots,k_m$全为 $0$ 时才能使上等式成立，则称该向量组是线性无关的。
$n$ 个向量组成的向量组 $\alpha_1,\alpha_2,\cdots,\alpha_n$将其组成一个矩阵 $[\alpha_1,\alpha_2,\cdots,\alpha_m]$ ，该矩阵的秩代表了该向量组所能线性表示的空间维数。
-
假设有 $n$ 个 $n$ 维向量：$\alpha_1,\alpha_2,\cdots,\alpha_n$ , 其下说法是等价的：
-
这些向量是线性无关的；
-
$\alpha_1,\alpha_2,\cdots,\alpha_n$ 可以唯一确定地表示出任意 $n$ 维向量 $\beta$
-
矩阵 $A = [\alpha_1,\alpha_2,\cdots,\alpha_n]$ 的秩为 $n$
-
行列式 $|A| = |\alpha_1,\alpha_2,\cdots,\alpha_m|$ 不等于 $0$
极大线性无关组
- 向量组的等价:对于两个向量组，
$$ A:\alpha_1,\alpha_2,\cdots,\alpha_r\\ B:\beta_1,\beta_2,\cdots,\beta_m$$
如果两个向量组中每个向量可以被另外一个向量组可以线性表示，则两个向量组被称之为等价的
- 极大线性无关组:向量组部分向量线性无关,所有的向量都可以由这部分向量表示,这时我们称这部分向量组为极大线性无关组
求最大无关组的方法：将向量形成的矩阵进行阶梯型行化简，主元所处的位置对应的向量位置即为最大无关组。
线性方程组解的结构
我们先举两个例子展示求解齐次(非齐次)线性方程组通解的方法:
eg1:
$$
\begin{cases}
x+y+2z=0\\
2x-y+3z=0\\
x-2y+z=0
\end{cases}
\Rightarrow
\begin{pmatrix}
1&1&2&0\\
0&3&1&0\\
0&0&0&0
\end{pmatrix}
$$
易得主元位置在 $x$ 和 $y$ 那两列,所以选取 $z$ 作为自由变量
$$
\begin{cases}
x=-\dfrac{5k}{3}\\
y=-\dfrac{k}{3}\\
z=k
\end{cases}
\Rightarrow
\begin{cases}
x=-5k\\
y=-k\\
z=3k
\end{cases}
\Rightarrow
\begin{bmatrix}
x\\y\\z
\end{bmatrix}
=
k
\begin{bmatrix}
-5\\-1\\3
\end{bmatrix}
$$
eg2:
$$
\begin{cases}
x_1+2x_2+2x_3+3x_4=14\\
-x_1-2x_2+x_3-x_4=2\\
4x_1+8x_2-x_3+6x_4=8
\end{cases}
\Rightarrow
\begin{bmatrix}
1&2&2&3&14\\
-1&-2&1&-1&2\\
4&8&-1&6&8
\end{bmatrix}
\Rightarrow
\begin{bmatrix}
1&2&2&3&14\\
0&0&3&2&16\\
0&0&0&0&0
\end{bmatrix}
$$
易得主元位置在 $x_1$ 和 $x_3$ 那两列,所以选取 $x_2$ 和 $x_4$ 作为自由变量
$$
\begin{cases}
x_1=\frac{10}{3}-2x_2-\frac{5x_4}{3}\\
x_2=0+x_2+0x_4\\
x_3=\frac{16}{3}+0x_2-\frac{2}{3}x_4\\
x_4=0+0x_2+x_4
\end{cases}
\Rightarrow
\begin{bmatrix}
x_1\\x_2\\x_3\\x_4
\end{bmatrix}
=
\begin{bmatrix}
\frac{10}{3} \\ 0 \\ \frac{16}{3} \\ 0
\end{bmatrix}
+k_1
\begin{bmatrix}
-2 \\ 1 \\ 0 \\ 0
\end{bmatrix}
+k_2
\begin{bmatrix}
-\frac{5}{3} \\ 0 \\ -\frac{2}{3} \\ 1
\end{bmatrix}
\Rightarrow
\begin{bmatrix}
x_1\\x_2\\x_3\\x_4
\end{bmatrix}
=
\begin{bmatrix}
\frac{10}{3} \\ 0 \\ \frac{16}{3} \\ 0
\end{bmatrix}
+k_1
\begin{bmatrix}
-2 \\ 1 \\ 0 \\ 0
\end{bmatrix}
+k_2
\begin{bmatrix}
-5 \\ 0 \\ -2 \\ 3
\end{bmatrix}
$$
例如 eg1 的
$$
\eta_1=\begin{bmatrix}
-5\\-1\\2
\end{bmatrix}
$$
eg2 的
$$
\xi_1=
\begin{bmatrix}
-2 \\ 1 \\ 0 \\ 0
\end{bmatrix}
,\xi_2=
\begin{bmatrix}
-5 \\ 0 \\ -2 \\ 3
\end{bmatrix}
$$
我们把这些向量称之为基础解系
- 基础解系:如果存在一组线性无关的向量 $\xi_1 ,\xi_2 ,\cdots ,\xi_n$ 是齐次线性方程组 $AX=0$ 的解,那就称这组向量为方程组的基础解系,这些向量为解向量
- 易得 $\xi$ 的个数为 $n-r$ 个( $\xi$ :基础解系中向量, $n$ :方程中变量个数, $r$ :矩阵的秩)
- 非齐次方程组的通解=齐次方程组的通解+非齐次方程组的特解
不难得出,把 eg2 的方程组转换为齐次线性方程组(等号右边的数全部改为 $0$ ),方程组的解就变为
$$
\begin{bmatrix}
x_1\\x_2\\x_3\\x_4
\end{bmatrix}
=
\begin{bmatrix}
\dfrac{10}{3} \\ 0 \\ \dfrac{16}{3} \\ 0
\end{bmatrix}
+k_1
\begin{bmatrix}
-2 \\ 1 \\ 0 \\ 0
\end{bmatrix}
+k_2
\begin{bmatrix}
-5 \\ 0 \\ -2 \\ 3
\end{bmatrix}
$$
计算方面略,挺简单的
- 若 $\xi_1 ,\xi_2$ 是 $AX=0$ 的解,那么 $k_1 \xi_1 + k_2 \xi_2$ 也是 $AX=0$ 的解
- 若 $\eta_1,\eta_2$ 是 $AX=b$ 的解,那么 $\eta_1 - \eta_2$ 是 $AX = 0$ 的解,$\eta_1+k_1 \xi_1 + k_2 \xi_2$ 是 $AX=b$ 的解(上述两个小结论把 $\xi\quad or\quad\eta$ 代入到方程组,就能轻易证明)