跳到主内容
数理基础线性代数(Linear Algebra) · 10讲8/10模块导览 →
讲义

第8讲 正交矩阵(Orthogonal Matrices)

从内积、范数与正交性出发,推导 Gram-Schmidt 正交化、正交投影和最小二乘,并总结正交矩阵性质。

完成状态保存在当前浏览器,可随时取消。

基本概念(Basic Concepts)#

内积与范数(Inner Product and Norm)#

对于向量 u=(u1,u2,...,un)u = (u_1, u_2, ..., u_n)v=(v1,v2,...,vn)v = (v_1, v_2, ..., v_n)

  • 内积定义为:
uv=i=1nuiviu \cdot v = \sum_{i=1}^n u_i v_i
  • 范数(长度)定义为:
u=uu=i=1nui2\|u\| = \sqrt{u \cdot u} = \sqrt{\sum_{i=1}^n u_i^2}
  • 单位向量:若 u=1\|u\| = 1,则称 uu 为单位向量

正交性(Orthogonality)#

  • 向量正交:若 uv=0u \cdot v = 0,则称 uuvv 正交

  • 集合正交:集合 SS 中任意两个不同向量正交时,称为正交集

  • 规范正交基:若正交集的每个向量都是单位向量,则称为规范正交基

几何视角#

R2\mathbb{R}^2 中,正交向量满足勾股定理:

u+v2=u2+v2当且仅当uv\|u + v\|^2 = \|u\|^2 + \|v\|^2 \quad \text{当且仅当} \quad u \perp v

Gram-Schmidt 正交化过程#

算法步骤#

给定线性无关向量组 {u1,u2,...,uk}\{u_1, u_2, ..., u_k\},构造正交基 {v1,v2,...,vk}\{v_1, v_2, ..., v_k\}

  1. v1=u1v_1 = u_1

  2. v2=u2u2v1v12v1v_2 = u_2 - \frac{u_2 \cdot v_1}{\|v_1\|^2}v_1

  3. v3=u3u3v1v12v1u3v2v22v2v_3 = u_3 - \frac{u_3 \cdot v_1}{\|v_1\|^2}v_1 - \frac{u_3 \cdot v_2}{\|v_2\|^2}v_2 ... k. vk=uki=1k1ukvivi2viv_k = u_k - \sum_{i=1}^{k-1} \frac{u_k \cdot v_i}{\|v_i\|^2}v_i

规范正交基:将每个 viv_i 单位化为 wi=viviw_i = \frac{v_i}{\|v_i\|}

示例#

将基 {(1,1),(2,0)}\{(1,1), (2,0)\} 正交化:

  1. v1=(1,1)v_1 = (1,1)

  2. v2=(2,0)(2,0)(1,1)2(1,1)=(2,0)(1,1)=(1,1)v_2 = (2,0) - \frac{(2,0)\cdot(1,1)}{2}(1,1) = (2,0) - (1,1) = (1,-1) 最终正交基: {(1,1),(1,1)}\{(1,1), (1,-1)\}


投影与最小二乘法(Projection and Least Squares)#

向量投影#

VV 是子空间,uu正交投影 ppVV 中离 uu 最近的点:

p=i=1kuvivi2vi({vi}V的正交基)p = \sum_{i=1}^k \frac{u \cdot v_i}{\|v_i\|^2}v_i \quad (\{v_i\} \text{为} V \text{的正交基})

最小二乘解#

线性系统 Ax=bAx = b最小二乘解满足:

ATAx=ATbA^TAx = A^Tb

其几何意义是将 bb 投影到 AA 的列空间

示例#

求解超定方程组:

{x+y=12xy=2x+3y=3\begin{cases} x + y = 1 \\ 2x - y = 2 \\ x + 3y = 3 \end{cases}

构造法方程:

ATA=(63311),ATb=(98)A^TA = \begin{pmatrix} 6 & 3 \\ 3 & 11 \end{pmatrix},\quad A^Tb = \begin{pmatrix} 9 \\ 8 \end{pmatrix}

解得 x=1.29,y=0.43x = 1.29, y = 0.43


正交矩阵(Orthogonal Matrices)#

定义与性质#

矩阵 QQ 称为正交矩阵,若满足:

QTQ=IQ1=QTQ^TQ = I \quad \text{即} \quad Q^{-1} = Q^T

等价条件:

  1. 列向量构成规范正交基

  2. 保持向量长度:Qx=x\|Qx\| = \|x\|

  3. 保持内积:(Qx)(Qy)=xy(Qx)\cdot(Qy) = x\cdot y

特征性质#

  • 特征值的模长为 1

  • 行列式值为 ±1

  • 正交矩阵的乘积仍是正交矩阵

示例#

旋转矩阵是正交矩阵:

Rθ=(cosθsinθsinθcosθ)R_\theta = \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}

验证:RθTRθ=IR_\theta^TR_\theta = I


学习建议#

  1. 几何理解优先:将内积视为"相似度测量",正交性对应垂直关系

  2. 分步练习:从二维空间例题入手,逐步推广到高维情形

  3. 可视化工具:使用几何软件观察 Gram-Schmidt 过程

  4. 注意陷阱:正交矩阵的行列式可能为负值,与旋转/反射操作对应

关键术语对照表:

  • 内积 Inner Product

  • 范数 Norm

  • 正交 Orthogonal

  • 规范正交 Orthonormal

  • 投影 Projection

  • 最小二乘法 Least Squares

  • 正交矩阵 Orthogonal Matrix