docs/math/linear-algebra/vector-space.md
author: codewasp942, Tiphereth-A
线性空间是 $d$ 维欧氏空间（$0\leq d\leq 3$）等的推广，相关概念的关系可参照 欧氏空间与线性空间的关系．
前置知识：阿贝尔群、域．
通俗地讲，一个集合关于某运算封闭，满足结合律、单位元与逆元则构成群．如果还满足交换律，则构成阿贝尔群．
如果一个集合关于四则运算封闭，则构成域．相关定义详见 抽象代数基本概念．
线性空间（向量空间）是线性代数的基本概念与重要研究对象．线性空间是由向量集合 $V$、域 $\Bbb{P}$、加法运算 $+$ 和标量乘法（数乘）组成的模类代数结构．
具体来说，设 $(V,+)$ 是一个阿贝尔群，$\Bbb{P}$ 是一个域．
定义 $\Bbb{P}$ 中的数与 $V$ 中元素的一种代数运算，称为 数乘：$\cdot:\Bbb{P}\times V\mapsto V$，记为 $p\cdot v$ 或 $pv$，其中 $p$ 在域 $\Bbb{P}$ 中，$v$ 在阿贝尔群 $V$ 中．要求该数乘运算是封闭的，运算结果始终有意义，也在群 $V$ 中．
且满足以下条件：
则称代数系统 $(V,+,\cdot,\mathbb{P})$ 是 $V$ 关于 $+,\cdot$ 构成 $\Bbb{P}$ 上的一个 线性空间，$\Bbb{P}$ 为线性空间的 基域，$V$ 中元素称为 向量，$\Bbb{P}$ 中元素称为 标量．当域 $\Bbb{P}$ 为实数域时，称为实线性空间．当域 $\Bbb{P}$ 为复数域时，称为复线性空间．
不管是一列数还是箭头，或是别的什么东西，只要满足上述公理，都可以认为是向量，也就都可以利用线性代数的理论来研究．
称加法群中的零元为零向量，记作 $\mathbf 0$ 或 $\mathbf\theta$．
原阿贝尔群中向量的加减法，与线性空间新定义的数乘，统称为 线性运算．
???+ note "Note" 为行文方便，下文中：
1. 对 $V$ 中的元素不做加粗处理．
2. 将满足线性空间定义的代数系统 $(V,+,\cdot,\mathbb{P})$ 也称为线性空间．
请注意区分．
不是很严谨地说，标量乘法对应着一种「缩放」，基域 $\Bbb{P}$ 中的元素就代表着缩放的「比例」，向量加法对应「叠加」．同时，$\Bbb{P}$ 中的元素还代表着向量的「坐标」的取值范围．
条件 1-4 描述的是「缩放」与「叠加」的关联．可以结合二维平面上的箭头来理解．
???+ note "Note" 以下性质可在群论等中找到．
对线性空间 $(V,+,\cdot,\Bbb{P})$,
$\theta$ 唯一
$\forall\alpha\in V$,$-\alpha$ 唯一
$\exists 0\in\mathbb{P}$,$\forall\alpha\in V$, 有 $0\alpha=\theta$
$\forall k\in\mathbb{P}$, 有 $k\theta=\theta$
$(-1)\alpha=-\alpha,~\forall\alpha\in V$
无零因子：$\forall\alpha\in V,k\in\mathbb{P}$, 有 $k\alpha=\theta\implies k=0\lor\alpha=\theta$
加法的消去律：$\forall\alpha,\beta,\gamma\in V$, 有 $\alpha+\beta=\alpha+\gamma\implies\beta=\gamma$
实际上，加法的消去律是阿贝尔群的性质．
对线性空间 $(V,+,\cdot,\Bbb{P})$：
规定零向量与任意向量线性相关．
线性表示或线性相关的式子，可以写成矩阵乘法的形式：
$$ \beta=k_1a_1+k_2a_2+\cdots+k_ra_r=(a_1,a_2,\cdots,a_r)\begin{pmatrix} k_1 \ k_2 \ \vdots \ k_r \end{pmatrix} $$
根据习惯，把向量 $a$ 按顺序并排写在左边；把标量 $k$ 按顺序竖着写在右边，构成一个「列向量」．
注意：这里标量构成的「列向量」只是方便的形式记号，不在空间 $V$ 中，与左边的向量有着本质的区别．左边的向量如果恰好是列向量，并排拼起来就可以形式上构成一个「矩阵」，上述乘积恰好是矩阵中常见的「矩阵左乘列向量」的形式．
下文指出，这里的线性表示也等价于，向量 $\beta$ 落在矩阵 $(a_1,a_2\cdots,a_r)$ 的像空间里．
根据下文中的定义，零向量一定会落在像空间里．如果用线性变换的观点看，线性相关等价于变换后多个向量变换到零向量，而线性无关等价于只有零向量本身变换到零向量．
对线性空间 $(V,+,\cdot,\Bbb{P})$,
线性相关可以理解为「多余」，说明向量组内部有的向量可以被其他向量表出，可以删去．删完了之后，将剩下极大线性无关组．
对线性空间 $(V,+,\cdot,\Bbb{P})$：
对于向量组 $b_1,b_2,\dots,b_m$, 令 ${a_1,a_2,\dots,a_n}\subseteq{b_1,b_2,\dots,b_m}$, 若有：
则称向量组 $a_1,a_2,\dots,a_n$ 为向量组 $b_1,b_2,\dots,b_m$ 中的一个 极大线性无关组．类似地，可定义线性空间 $V$ 的极大线性无关组．
规定向量组 $\theta,\theta,\dots,\theta$ 的极大线性无关组为空集，于是全 $0$ 矩阵对应的向量组没有极大线性无关组．
从向量组删向量的删法不唯一，因此极大线性无关组也不唯一．习惯上从左到右按顺序删．
很巧的是，按顺序删，留下的向量，恰好就是「按行看」观点里面，高斯消元法剩下的行最简形矩阵中，元素 $1$ 所在的列．
称向量组 $b_1,b_2,\dots,b_m$ 的极大线性无关组的大小为向量组的 秩，记作 $\operatorname{rank}{b_1,b_2,\dots,b_m}$, 规定 $\operatorname{rank}{\theta,\theta,\dots,\theta}=0$．
于是，向量组的秩的定义与矩阵的秩的定义完全一致．
若向量组 $a_1,a_2,\dots,a_n$ 能线性表出向量组 $b_1,b_2,\dots,b_m$ 中的所有向量，称向量组 $b_1,b_2,\dots,b_m$ 能被向量组 $a_1,a_2,\dots,a_n$ 线性表出．
若向量组 $a_1,a_2,\dots,a_n$ 能被向量组 $b_1,b_2,\dots,b_m$ 线性表出，且向量组 $b_1,b_2,\dots,b_m$ 能被向量组 $a_1,a_2,\dots,a_n$ 线性表出，则称两向量组 等价，记作 ${a_1,a_2,\dots,a_n}\cong{b_1,b_2,\dots,b_m}$．
向量组的 等价 就是向量组张成的空间相同．张成空间相同的向量组相互等价，张成空间不同的向量组不等价．
向量组等价比矩阵等价条件更强，不仅要求秩相同，还要求空间完全一样．因此，把两个矩阵 横向 拼在一起，秩不能发生变化．
矩阵等价仅要求秩相同，因此矩阵等价表示前一个矩阵或空间，可以通过可逆变换，到达后一个矩阵或空间．
对线性空间 $(V,+,\cdot,\Bbb{P})$,
设向量组 $a_1,a_2,\dots,a_n$ 能被线性表出向量组 $b_1,b_2,\dots,b_m$ 线性表出．
等价的线性无关向量组的大小相等．
向量组的任意极大线性无关组的大小均相等．
向量组线性无关当且仅当其秩等于其大小．
若向量组 $a_1,a_2,\dots,a_n$ 能被线性表出向量组 $b_1,b_2,\dots,b_m$ 线性表出，则 $\operatorname{rank}{a_1,a_2,\dots,a_n}\leq\operatorname{rank}{b_1,b_2,\dots,b_m}$．
等价的向量组的秩相等．
对于线性空间 $(V,+,\cdot,\Bbb{P})$，$\left{v=\sum_{i=1}^nk_ia_i:a_i\in V,k_i\in\Bbb{P},i=1,2,\dots,n\right}$ 也构成一个线性空间，称为由向量组 $a_1,a_2,\dots,a_n$ 张成 的线性空间（或 线性包），记作 $\operatorname{span}{a_1,a_2,\dots,a_n}$．
这里的 $n$ 个向量 $a$ 不一定线性无关．
对线性空间 $(V,+,\cdot,\Bbb{P})$, 若代数系统 $(V_1,+,\cdot,\Bbb{P})$ 满足：
则称 $V_1$ 为 $V$ 的线性子空间，简称子空间，记作 $V_1\leq V$．
任何空间 $V$ 都有两个 平凡子空间：它本身 $V$ 与零子空间．零子空间只含零向量，不含有线性无关的向量．
若第 2 条中的 $\subseteq$ 换为 $\subset$, 则称 $V_1$ 为 $V$ 的线性真子空间，记作 $V_1<V$．
不难证明：线性空间 $V$ 的非空子集 $V_1$ 是其线性子空间当且仅当线性运算在 $V_1$ 上封闭，即：
对线性空间 $(V_1,+,\cdot,\Bbb{P})$ 与 $(V_2,+,\cdot,\Bbb{P})$：
不难验证：加法和数乘在 $V_1\cap V_2$ 上封闭，故可称 $V_1\cap V_2$ 为线性空间 $V_1$ 和 $V_2$ 的 交．
类似地，可定义多个线性空间的交 $\bigcap_{i=1}^m V_i$．
若线性空间 $V$ 满足 $V={u+v|u\in V_1,v\in V_2}$, 则称 $V$ 为线性空间 $V_1$ 和 $V_2$ 的 和，记为 $V=V_1+V_2$．
可以验证：$V_1+V_2$ 是包含 $V_1\cup V_2$ 的最小子空间．
类似地，可定义多个线性空间的和 $\sum_{i=1}^m V_i$．
设 $V=V_1+V_2$, 若线性空间 $V$ 中的任意元素 $v$, 均只能找到唯一一组向量 $v_1,v_2$ 满足 $v=v_1+v_2$, 则称 $V$ 为线性空间 $V_1$ 和 $V_2$ 的 直和(direct sum)，记为 $V_1\oplus V_2$．
类似地，可定义多个线性空间的直和 $\bigoplus_{i=1}^m V_i$．
$V_1$ 与 $V_2$ 的 直积 $V_1\times V_2$ 定义为二者的笛卡儿积关于如下的加法和数乘构成 $\Bbb{P}$ 上的线性空间：
类似地，可定义多个线性空间的直积 $\prod_{i=1}^m V_i$．
对于线性空间 $V=\Bbb{R}^3$，设线性空间：
则
令 $V_1,V_2,V_3$ 是关于 $\Bbb{P}$ 的线性空间，和集合的交一样，线性空间的交适用如下法则：
令 $V_1,V_2,V_3$ 是关于 $\Bbb{P}$ 的线性空间，类似于集合的并，线性空间的和适用如下法则：
令 $V_1,V_2,V_3$ 是关于 $\Bbb{P}$ 的线性空间，线性空间的交与并有如下关系：
$\operatorname{span}{a_1,a_2,\dots,a_n}+\operatorname{span}{b_1,b_2,\dots,b_m}=\operatorname{span}{a_1,a_2,\dots,a_n,b_1,b_2,\dots,b_m}$
令 $V_1,V_2$ 是关于 $\Bbb{P}$ 的线性空间，则下列诸款等价：
$V_1+V_2=V_1\oplus V_2$
$\exists \beta\in V_1+V_2$, 使得拆分为 $V_1$ 和 $V_2$ 中的向量和的方式唯一（任意 $\to$ 存在）
$\theta$ 拆分为 $V_1$ 和 $V_2$ 中向量的和的方式唯一
$V_1\cap V_2={\theta}$
???+ note "证明" $1\implies 2$：由定义立得．
$2 \implies 3$：
令 $\beta=\beta_1+\beta_2$, 其中 $\beta_1\in V_1, \beta_2\in V_2$, 若 $\theta=\alpha_1+\alpha_2$,$\theta\ne\alpha_1\in V_1,\alpha_2\in V_2$, 则 $\beta=\beta+\theta=(\beta_1+\alpha_1)+(\beta_2+\alpha_2)$．
而 $\beta_1\ne\beta_1+\alpha_1$, 与条件矛盾．
$3 \implies 4$：
在 $V_1$ 和 $V_2$ 中取一非零向量 $\alpha$, 则 $\theta=\alpha+(-\alpha)=(-\alpha)+\alpha$, 这与条件矛盾．
$4 \implies 1$：
若 $V_1+V_2$ 不是直和，则存在 $\beta\in V_1+V_2$ 使得 $\beta=\beta_1+\beta_2=\gamma_1+\gamma_2$, 其中 $\beta_1,\gamma_1\in V_1,\beta_2,\gamma_2\in V_2$ 且 $\beta_1,\beta_2,\gamma_1,\gamma_2$ 互不相同．
进而 $\theta\ne\beta_1-\gamma_1=\gamma_2-\beta_2\in V_1\cap V_2$, 与条件矛盾．
设 $V,V'$ 均为域 $\Bbb{P}$ 上的线性空间，若存在双射 $\sigma:V\mapsto V'$ 且保持加法与数乘，即 $\forall u,v\in V$,$\forall k\in\Bbb{P}$ 满足：
则称 $\sigma$ 是 $V$ 到 $V'$ 的 同构映射，此时称 $V$ 与 $V'$ 同构，记为 $V\cong V'$．
???+ note "Note" 若 $\sigma$ 是单射，则可定义 单同态；若 $\sigma$ 是满射，则可定义 满同态．
域 $\Bbb{P}$ 上的两线性空间同构当且仅当其维数相等．（维数的定义参见 线性基．）
（1 的推论）域 $\Bbb{P}$ 上的 $n$ 维线性空间与线性空间 $\Bbb{P}^n$ 同构．
???+ note "Note" 本性质说明我们基本上可以将坐标和向量等同看待．
以我们最熟悉的三维欧氏空间为例，其部分相关概念在线性空间中的对应关系如下表：
| 三维欧氏空间 | 线性空间 |
|---|---|
| 向量 | 向量 |
| 垂直 | 正交（即内积为 $0$） |
| 三向量共线/共面 | $k$ 个向量线性相关 |
| 三向量不共面 | $k$ 个向量线性无关 |
| 基向量 | 线性基 |
| 空间的维数 | 空间的维数 |
从本节开始主要讲述对于线性方程组「按列看」的观点．
矩阵 $A$ 本身也是由列向量构成的．把 $A$ 本身看成了列向量组，而 $x$ 是未知数系数，思考 $A$ 当中的这组列向量能不能配上未知数，凑出列向量 $b$．此时列向量 $x$ 是完全未知的．
此时研究的等式 $Ax=b$ 整理为：
$$ \alpha_1 x_1 +\alpha_2 x_2 +\cdots+\alpha_n x_n=b $$
这时，矩阵乘法中，位于左边的矩阵 $A$ 可以看作向量组，即一组列向量．这组列向量作为一组基，张成一个空间，探讨列向量 $b$ 是否落在这个空间里．
秩是极大线性无关组中向量的个数，代表了「约束」．那么其余的向量将赋予解的自由度，即允许在其他方向赋予冗余的向量．
如果记 $n$ 是矩阵 $A$ 的列数，即含有的列向量个数，记 $r(A)$ 为矩阵 A 的秩，则有自由度 $S$：
$$ S=n-r(A) $$
方程组的全体解也构成向量组，自由度 $S$ 就是 $Ax=0$ 解向量组的秩，即下文核空间的维数．
两个方程组的公共解定义为两组解的交集．
方程组的 同解 就是方程组的解的集合相等．解的集合相等的方程组同解，解的集合不相等的方程组不同解．
方程组同解也比矩阵等价条件强，不仅要求秩相等，还要求把两个矩阵 纵向 拼在一起之后，秩仍然不改变．
这里与向量组等价对比，向量组等价要求矩阵横向拼接，秩不改变．因此，有如下关系：
矩阵等价，不一定有对应的向量组等价或者方程组同解，但是若有向量组等价或者方程组同解，必然有对应的矩阵等价（秩相同）．
如果矩阵对应的向量组等价，那么将矩阵转置后，对应的方程组同解，反之亦然．
这部分的核空间与像空间是站在线性空间的角度上叙述的．
对于矩阵 $A$，令 $W$ 为方程 $Ax=0$ 的全体解 $x$ 构成的集合，则 $W$ 是一个线性空间，$W$ 的标量域与 $A$ 的元素所在的域相同．
称此时的 $W$ 为矩阵 $A$ 的 核空间，记作 $N(A)$．
矩阵 $A$ 的核空间 $N(A)$ 就是方程 $Ax=0$ 的 解空间．根据后文基的定义，该方程的 基础解系 就是核空间的基．
如果矩阵 $A$ 是可逆矩阵，则 $A$ 的核空间 $N(A)$ 只含零向量．
对于矩阵 $A$，它的 $n$ 个列为向量 $\alpha$，称 $n$ 个列向量 $\alpha$ 张成的空间为 $A$ 的 像空间，或者记作 列空间，记作：
$$ R(A)=\operatorname{span}{\alpha_1,\alpha_2,\cdots,\alpha_n} $$
根据后文维数的定义，像空间的维数等于矩阵 $A$ 的秩．
由定义，对于像空间 $R(A)$ 中的每一个元素 $y$，均有相应的表示：
$$ y=k_1\alpha_1+k_2\alpha_2+\cdots+k_n\alpha_n=(\alpha_1,\alpha_2,\cdots,\alpha_n)\begin{pmatrix}k_1\k_2\\vdots\k_n\end{pmatrix}=A\begin{pmatrix}k_1\k_2\\vdots\k_n\end{pmatrix} $$
因此像空间 $R(A)$ 就是对于任意向量 $x$，$Ax$ 的 值域．
同理可以定义 $A$ 的 行空间，即 $A$ 的转置的值域 $R(A^T)$．
由于矩阵的行秩等于列秩，行空间的维数也为矩阵的秩，因此转置改变像空间，而不改变像空间的维数．
在这里可以与前文建立对应关系：
向量组等价，等价于对应矩阵的像空间 $R(A)$ 相同．
方程组同解，等价于对应矩阵的行空间 $R(A^T)$ 相同．