跳到主内容
@wquguru
讲义

第8讲 正交矩阵(Orthogonal Matrices)

从内积、范数与正交性出发,推导 Gram-Schmidt 正交化、正交投影和最小二乘,并总结正交矩阵性质。

基本概念(Basic Concepts)#

内积与范数(Inner Product and Norm)#

对于向量 u=(u1,u2,...,un)u = (u_1, u_2, ..., u_n) 和 v=(v1,v2,...,vn)v = (v_1, v_2, ..., v_n):

  • 内积定义为:
u⋅v=∑i=1nuiviu \cdot v = \sum_{i=1}^n u_i v_i
  • 范数(长度)定义为:
∥u∥=u⋅u=∑i=1nui2\|u\| = \sqrt{u \cdot u} = \sqrt{\sum_{i=1}^n u_i^2}
  • 单位向量:若 ∥u∥=1\|u\| = 1,则称 uu 为单位向量

正交性(Orthogonality)#

  • 向量正交:若 u⋅v=0u \cdot v = 0,则称 uu 与 vv 正交

  • 集合正交:集合 SS 中任意两个不同向量正交时,称为正交集

  • 规范正交基:若正交集的每个向量都是单位向量,则称为规范正交基

几何视角#

在 R2\mathbb{R}^2 中,正交向量满足勾股定理:

∥u+v∥2=∥u∥2+∥v∥2当且仅当u⊥v\|u + v\|^2 = \|u\|^2 + \|v\|^2 \quad \text{当且仅当} \quad u \perp v

Gram-Schmidt 正交化过程#

算法步骤#

给定线性无关向量组 {u1,u2,...,uk}\{u_1, u_2, ..., u_k\},构造正交基 {v1,v2,...,vk}\{v_1, v_2, ..., v_k\}:

  1. v1=u1v_1 = u_1

  2. v2=u2−u2⋅v1∥v1∥2v1v_2 = u_2 - \frac{u_2 \cdot v_1}{\|v_1\|^2}v_1

  3. v3=u3−u3⋅v1∥v1∥2v1−u3⋅v2∥v2∥2v2v_3 = u_3 - \frac{u_3 \cdot v_1}{\|v_1\|^2}v_1 - \frac{u_3 \cdot v_2}{\|v_2\|^2}v_2 ... k. vk=uk−∑i=1k−1uk⋅vi∥vi∥2viv_k = u_k - \sum_{i=1}^{k-1} \frac{u_k \cdot v_i}{\|v_i\|^2}v_i

规范正交基:将每个 viv_i 单位化为 wi=vi∥vi∥w_i = \frac{v_i}{\|v_i\|}

示例#

将基 {(1,1),(2,0)}\{(1,1), (2,0)\} 正交化:

  1. v1=(1,1)v_1 = (1,1)

  2. v2=(2,0)−(2,0)⋅(1,1)2(1,1)=(2,0)−(1,1)=(1,−1)v_2 = (2,0) - \frac{(2,0)\cdot(1,1)}{2}(1,1) = (2,0) - (1,1) = (1,-1) 最终正交基: {(1,1),(1,−1)}\{(1,1), (1,-1)\}


投影与最小二乘法(Projection and Least Squares)#

向量投影#

设 VV 是子空间,uu 的正交投影 pp 是 VV 中离 uu 最近的点:

p=∑i=1ku⋅vi∥vi∥2vi({vi}为V的正交基)p = \sum_{i=1}^k \frac{u \cdot v_i}{\|v_i\|^2}v_i \quad (\{v_i\} \text{为} V \text{的正交基})

最小二乘解#

线性系统 Ax=bAx = b 的最小二乘解满足:

ATAx=ATbA^TAx = A^Tb

其几何意义是将 bb 投影到 AA 的列空间

示例#

求解超定方程组:

{x+y=12x−y=2x+3y=3\begin{cases} x + y = 1 \\ 2x - y = 2 \\ x + 3y = 3 \end{cases}

构造法方程:

ATA=(63311),ATb=(98)A^TA = \begin{pmatrix} 6 & 3 \\ 3 & 11 \end{pmatrix},\quad A^Tb = \begin{pmatrix} 9 \\ 8 \end{pmatrix}

解得 x=1.29,y=0.43x = 1.29, y = 0.43


正交矩阵(Orthogonal Matrices)#

定义与性质#

矩阵 QQ 称为正交矩阵,若满足:

QTQ=I即Q−1=QTQ^TQ = I \quad \text{即} \quad Q^{-1} = Q^T

等价条件:

  1. 列向量构成规范正交基

  2. 保持向量长度:∥Qx∥=∥x∥\|Qx\| = \|x\|

  3. 保持内积:(Qx)⋅(Qy)=x⋅y(Qx)\cdot(Qy) = x\cdot y

特征性质#

  • 特征值的模长为 1

  • 行列式值为 ±1

  • 正交矩阵的乘积仍是正交矩阵

示例#

旋转矩阵是正交矩阵:

Rθ=(cos⁡θ−sin⁡θsin⁡θcos⁡θ)R_\theta = \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}

验证:RθTRθ=IR_\theta^TR_\theta = I


学习建议#

  1. 几何理解优先:将内积视为"相似度测量",正交性对应垂直关系

  2. 分步练习:从二维空间例题入手,逐步推广到高维情形

  3. 可视化工具:使用几何软件观察 Gram-Schmidt 过程

  4. 注意陷阱:正交矩阵的行列式可能为负值,与旋转/反射操作对应

关键术语对照表:

  • 内积 Inner Product

  • 范数 Norm

  • 正交 Orthogonal

  • 规范正交 Orthonormal

  • 投影 Projection

  • 最小二乘法 Least Squares

  • 正交矩阵 Orthogonal Matrix