阅读翻译Mathematics for Machine Learning之2.8 Affine Subspaces
关于:
- 首次发表日期:2024-07-24
- Mathematics for Machine Learning官方链接: https://mml-book.com
- ChatGPT和KIMI机翻,人工润色
- 非数学专业,如有错误,请不吝指出
2.8 仿射空间
接下来,我们将更详细地考察从原点偏移的空间,即不再是向量子空间的空间。此外,我们还将简要讨论这些仿射空间之间映射的性质,这些映射类似于线性映射。
备注。在机器学习文献中,线性和仿射之间的区别有时并不明确,以至于我们可以发现将仿射空间/映射称为线性空间/映射的参考文献。
2.8.1 仿射空间
定义 2.25(仿射子空间)。设 \(V\) 为一个向量空间,\(\boldsymbol{x}_0 \in V\),\(U \subseteq V\) 为一个子空间。那么子集
\[\begin{align*}
L & =\boldsymbol{x}_0+U:=\left\{\boldsymbol{x}_0+\boldsymbol{u}: \boldsymbol{u} \in U\right\} \tag{2.130a} \\
& =\left\{\boldsymbol{v} \in V \mid \exists \boldsymbol{u} \in U: \boldsymbol{v}=\boldsymbol{x}_0+\boldsymbol{u}\right\} \subseteq V \tag{2.130b}
\end{align*}
\]
称为 \(V\) 的仿射子空间或线性流形(linear manifold)。\(U\) 称为方向或方向空间(direction space),\(\boldsymbol{x}_0\) 称为支点(support point)。在第12章中,我们将这种子空间称为超平面。
注意,如果 \(\boldsymbol{x}_0 \notin U\),则仿射子空间的定义排除了 \(\mathbf{0}\)。因此,对于 \(\boldsymbol{x}_0 \notin U\),仿射子空间不是 \(V\) 的(线性)子空间(向量子空间)。
仿射子空间的例子有 \(\mathbb{R}^3\) 中的点、线和平面,这些点、线和平面不(一定)通过原点。
备注。考虑向量空间 \(V\) 的两个仿射子空间 \(L = \boldsymbol{x}_0 + U\) 和 \(\tilde{L} = \tilde{\boldsymbol{x}}_0 + \tilde{U}\)。当且仅当 \(U \subseteq \tilde{U}\) 且 \(x_0 - \tilde{x}_0 \in \tilde{U}\) 时,\(L \subseteq \tilde{L}\)。
仿射子空间通常由参数描述:考虑一个 \(V\) 的 \(k\) 维仿射空间 \(L = \boldsymbol{x}_0 + U\)。如果 \(\left(\boldsymbol{b}_1, \ldots, \boldsymbol{b}_k\right)\) 是 \(U\) 的一个有序基,那么每个元素 \(\boldsymbol{x} \in L\) 都可以唯一地描述为
\[\boldsymbol{x}=\boldsymbol{x}_0+\lambda_1 \boldsymbol{b}_1+\ldots+\lambda_k \boldsymbol{b}_k,
\tag{2.131}
\]
其中 \(\lambda_1, \ldots, \lambda_k \in \mathbb{R}\)。这种表示称为具有方向向量 \(\boldsymbol{b}_1, \ldots, \boldsymbol{b}_k\) 和参数 \(\lambda_1, \ldots, \lambda_k\) 的 \(L\) 的参数方程。
**例 2.26(仿射子空间)**
- 一维仿射子空间称为直线,可以写作 \(\boldsymbol{y}=\boldsymbol{x}_0+\lambda \boldsymbol{b}_1\),其中 \(\lambda \in \mathbb{R}\),\(U=\operatorname{span}\left[\boldsymbol{b}_1\right] \subseteq \mathbb{R}^n\) 是 \(\mathbb{R}^n\) 的一维子空间。这意味着直线由一个支点 \(\boldsymbol{x}_0\) 和一个定义方向的向量 \(\boldsymbol{b}_1\) 定义。参见图 2.13 了解示意图。
- \(\mathbb{R}^n\) 的二维仿射子空间称为平面。平面的参数方程为 \(\boldsymbol{y}=\boldsymbol{x}_0+\lambda_1 \boldsymbol{b}_1+\lambda_2 \boldsymbol{b}_2\),其中 \(\lambda_1, \lambda_2 \in \mathbb{R}\),\(U=\operatorname{span}\left[\boldsymbol{b}_1, \boldsymbol{b}_2\right] \subseteq \mathbb{R}^n\)。这意味着平面由一个支点 \(\boldsymbol{x}_0\) 和两个线性独立的向量 \(\boldsymbol{b}_1, \boldsymbol{b}_2\) 定义,这两个向量张成方向空间(span the direction space)。
- 在 \(\mathbb{R}^n\) 中,\((n-1)\) 维仿射子空间被称为超平面,相应的参数方程为 \(\boldsymbol{y}=\boldsymbol{x}_0+\sum_{i=1}^{n-1} \lambda_i \boldsymbol{b}_i\),其中 \(\boldsymbol{b}_1, \ldots, \boldsymbol{b}_{n-1}\) 构成 \(\mathbb{R}^n\) 的一个 \((n-1)\) 维子空间 \(U\) 的基。这意味着超平面由一个支点 \(\boldsymbol{x}_0\) 和 \((n-1)\) 个线性独立的向量 \(\boldsymbol{b}_1, \ldots, \boldsymbol{b}_{n-1}\) 定义,这些向量张成方向空间。在 \(\mathbb{R}^2\) 中,直线也是超平面。在 \(\mathbb{R}^3\) 中,平面也是超平面。
备注(非齐次线性方程组和仿射子空间)。对于 \(\boldsymbol{A} \in \mathbb{R}^{m \times n}\) 和 \(\boldsymbol{x} \in \mathbb{R}^m\),线性方程组 \(\boldsymbol{A} \boldsymbol{\lambda}=\boldsymbol{x}\) 的解要么是空集,要么是 \(\mathbb{R}^n\) 中维度为 \(n-\operatorname{rk}(\boldsymbol{A})\) 的仿射子空间。特别地,当 \(\left(\lambda_1, \ldots, \lambda_n\right) \neq (0, \ldots, 0)\) 时,线性方程 \(\lambda_1 \boldsymbol{b}_1 + \ldots + \lambda_n \boldsymbol{b}_n = \boldsymbol{x}\) 的解是 \(\mathbb{R}^n\) 中的一个超平面。
在 \(\mathbb{R}^n\) 中,每个 \(k\) 维仿射子空间都是非齐次线性方程组 \(\boldsymbol{A x}=\boldsymbol{b}\) 的解,其中 \(\boldsymbol{A} \in \mathbb{R}^{m \times n}\),\(\boldsymbol{b} \in \mathbb{R}^m\) 并且 \(\operatorname{rk}(\boldsymbol{A})=n-k\)。回想一下,对于齐次方程组 \(\boldsymbol{A x}=\mathbf{0}\),解是一个向量子空间,我们也可以将其视为一个特殊的仿射空间,其支点为 \(\boldsymbol{x}_0=\mathbf{0}\)。
2.8.2 仿射映射
类似于我们在 2.7 节讨论的向量空间之间的线性映射,我们可以在两个仿射空间之间定义仿射映射。线性映射和仿射映射密切相关。因此,我们从线性映射中已经知道的许多性质,例如线性映射的复合(composition)是一个线性映射,也适用于仿射映射。
定义 2.26(仿射映射)。对于两个向量空间 \(V, W\),一个线性映射 \(\Phi: V \rightarrow W\),以及 \(\boldsymbol{a} \in W\),映射
\[\begin{align*}
\phi: V & \rightarrow W \tag{2.132} \\
\boldsymbol{x} & \mapsto \boldsymbol{a} + \Phi(\boldsymbol{x}) \tag{2.133}
\end{align*}
\]
是从 \(V\) 到 \(W\) 的仿射映射。向量 \(\boldsymbol{a}\) 被称为 \(\phi\) 的平移向量。
- 每一个仿射映射 \(\phi: V \rightarrow W\) 也是线性映射 \(\Phi: V \rightarrow W\) 和 \(W\) 中的平移 \(\tau: W \rightarrow W\) 的复合,使得 \(\phi = \tau \circ \Phi\)。映射 \(\Phi\) 和 \(\tau\) 是唯一确定的(uniquely determined)。
- 仿射映射 \(\phi: V \rightarrow W, \phi^{\prime}: W \rightarrow X\) 的复合 \(\phi^{\prime} \circ \phi\) 是仿射的。
- 如果 \(\phi\) 是双射的,仿射映射保持几何结构不变。它们还保留维度和平行性。