第8讲 正交矩阵（Orthogonal Matrices）

基本概念（Basic Concepts）

内积与范数（Inner Product and Norm）

对于向量 $u = (u_1, u_2, ..., u_n)$ 和 $v = (v_1, v_2, ..., v_n)$：

• 内积定义为：

• 范数（长度）定义为：

• 单位向量：若 $\|u\| = 1$，则称 $u$ 为单位向量

正交性（Orthogonality）

• 向量正交：若 $u \cdot v = 0$，则称 $u$ 与 $v$ 正交

• 集合正交：集合 $S$ 中任意两个不同向量正交时，称为正交集

• 规范正交基：若正交集的每个向量都是单位向量，则称为规范正交基

几何视角

在 $\mathbb{R}^2$ 中，正交向量满足勾股定理：

Gram-Schmidt 正交化过程

算法步骤

给定线性无关向量组 $\{u_1, u_2, ..., u_k\}$，构造正交基 $\{v_1, v_2, ..., v_k\}$：

1. $v_1 = u_1$

2. $v_2 = u_2 - \frac{u_2 \cdot v_1}{\|v_1\|^2}v_1$

3. $v_3 = u_3 - \frac{u_3 \cdot v_1}{\|v_1\|^2}v_1 - \frac{u_3 \cdot v_2}{\|v_2\|^2}v_2$
   ...
   k.
   $v_k = u_k - \sum_{i=1}^{k-1} \frac{u_k \cdot v_i}{\|v_i\|^2}v_i$

规范正交基：将每个 $v_i$ 单位化为 $w_i = \frac{v_i}{\|v_i\|}$

示例

将基 $\{(1,1), (2,0)\}$ 正交化：

1. $v_1 = (1,1)$

2. $v_2 = (2,0) - \frac{(2,0)\cdot(1,1)}{2}(1,1) = (2,0) - (1,1) = (1,-1)$
   最终正交基：
   $\{(1,1), (1,-1)\}$

投影与最小二乘法（Projection and Least Squares）

向量投影

设 $V$ 是子空间，$u$ 的正交投影 $p$ 是 $V$ 中离 $u$ 最近的点：

最小二乘解

线性系统 $Ax = b$ 的最小二乘解满足：

其几何意义是将 $b$ 投影到 $A$ 的列空间

示例

求解超定方程组：


$\begin{cases} x + y = 1 \\ 2x - y = 2 \\ x + 3y = 3 \end{cases}$

构造法方程：

$A^TA = \begin{pmatrix} 6 & 3 \\ 3 & 11 \end{pmatrix},\quad A^Tb = \begin{pmatrix} 9 \\ 8 \end{pmatrix}$

解得 $x = 1.29, y = 0.43$

正交矩阵（Orthogonal Matrices）

定义与性质

矩阵 $Q$ 称为正交矩阵，若满足：

等价条件：

1. 列向量构成规范正交基

2. 保持向量长度：$\|Qx\| = \|x\|$

3. 保持内积：$(Qx)\cdot(Qy) = x\cdot y$

特征性质

• 特征值的模长为 1

• 行列式值为 ±1

• 正交矩阵的乘积仍是正交矩阵

示例

旋转矩阵是正交矩阵：

$R_\theta = \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}$

验证：$R_\theta^TR_\theta = I$

学习建议

1. 几何理解优先：将内积视为"相似度测量"，正交性对应垂直关系

2. 分步练习：从二维空间例题入手，逐步推广到高维情形

3. 可视化工具：使用几何软件观察 Gram-Schmidt 过程

4. 注意陷阱：正交矩阵的行列式可能为负值，与旋转/反射操作对应

关键术语对照表：

• 内积 Inner Product

• 范数 Norm

• 正交 Orthogonal

• 规范正交 Orthonormal

• 投影 Projection

• 最小二乘法 Least Squares

• 正交矩阵 Orthogonal Matrix

附：练习合集