概率第7讲：期望的性质 | Properties of Expectation · 量化课程

一、知识回顾 (Recap)#

离散型随机变量 (Discrete Random Variable):

$E(X) = \sum_{x} x \cdot p(x) = \sum_{x} x \cdot P(X = x)$
连续型随机变量 (Continuous Random Variable):

$E(X) = \int_{-\infty}^{\infty} x \cdot f(x) \, dx$
非负整数值随机变量 (Non-negative Integer-valued R.V.):

$E(Y) = \sum_{i=1}^{\infty} P(Y \geq i)$
非负随机变量 (Non-negative R.V.):

$E(Y) = \int_{0}^{\infty} P(Y > y) \, dy$

对于联合分布函数为 $p(x,y)$ 或 $f(x,y)$ 的随机变量 $X$ 和 $Y$ ，任意函数 $g(X,Y)$ 的期望：

E[g(X,Y)] = \sum_{y} \sum_{x} g(x,y) \cdot p(x,y)

E[g(X,Y)] = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} g(x,y) \cdot f(x,y) \, dx \, dy

若随机变量 $X$ 满足 $a \leq X \leq b$ 几乎必然成立，则：

a \leq E(X) \leq b

例子：

设 $X$ 表示骰子的点数，取值范围为 $\{1,2,3,4,5,6\}$ ，则：

$1 \leq E(X) = 3.5 \leq 6$

若 $E(X)$ 和 $E(Y)$ 存在且有限，则：

E(X + Y) = E(X) + E(Y)

证明：

利用联合概率密度函数：

\begin{aligned} E(X + Y) &= \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} (x + y) f(x,y) \, dx \, dy \\ &= \int_{-\infty}^{\infty} x \cdot f_X(x) \, dx + \int_{-\infty}^{\infty} y \cdot f_Y(y) \, dy \\ &= E(X) + E(Y) \end{aligned}

学习建议：尝试用离散情况自行推导（例如 $X,Y$ 为两个骰子的点数）。

若随机变量满足 $X \geq Y$ 几乎必然成立，则：

E(X) \geq E(Y)

设 $X_1, X_2, \dots, X_n$ 是独立同分布 (i.i.d.) 的随机变量，分布函数为 $F(x)$ ，且 $E(X_i) = \mu$ 。定义样本均值为：

\bar{X} = \frac{1}{n} \sum_{i=1}^{n} X_i

则有：

E(\bar{X}) = \mu

证明：

利用期望的线性性：

E(\bar{X}) = \frac{1}{n} \sum_{i=1}^{n} E(X_i) = \frac{1}{n} \cdot n\mu = \mu

例子：

抛掷 $n$ 次公平硬币，定义 $X_i$ 为第 $i$ 次正面朝上的指示变量（1表示正面，0反面）。则样本均值 $\bar{X}$ 的期望为：

$E(\bar{X}) = \frac{1}{n} \sum_{i=1}^{n} E(X_i) = \frac{1}{n} \cdot n \cdot \frac{1}{2} = 0.5$

学习建议：