第18讲：残差分析 (Residual Analysis)

一、残差定义

线性回归的基本形式：

残差 = 观测值 - 预测值

其中：

• $e_i$ 是第i个观测值的残差

• $y_i$ 是第i个观测值的实际值

• $\hat{y}_i$是第i个观测值的预测值

残差项的三个重要假设：

1. 线性关系：Y与X之间存在线性关系

2. 同方差性：误差项具有相同的方差

3. 独立同分布：误差项相互独立且服从相同的分布

二、残差诊断三步法

2.1 线性关系检验

# 生成非线性数据示例
n = 50
X = np.linspace(0, 10, n)
Y = 2*X + 3*np.sin(X) + np.random.normal(0, 1, n)

model = sm.OLS(Y, sm.add_constant(X)).fit()
plt.scatter(model.predict(), model.resid)
plt.axhline(0, color='r', linestyle='--')

当残差呈现规律性分布时（如抛物线型），提示可能存在非线性关系。

2.2 异方差性检验

Breusch-Pagan检验实现：

bp_test = smd.het_breuschpagan(residuals, model.model.exog)
print(f"P值：{bp_test[1]:.4f}")

if bp_test[1] < 0.05:
    print("存在异方差性")
else:
    print("满足同方差假设")

处理方法对比表：

2.3 自相关检验

Ljung-Box检验示例：

lb_test = smd.acorr_ljungbox(residuals, lags=10)
print(f"最大P值：{lb_test[1].max():.4f}")

if any(lb_test[1] < 0.05):
    print("存在自相关")
else:
    print("无显著自相关")

实战案例：特斯拉β系数计算

数据获取与处理

import yfinance as yf

# 获取数据
start = '2020-01-01'
end = '2021-01-01'
tsla = yf.download('TSLA', start=start, end=end)['Close']
spy = yf.download('SPY', start=start, end=end)['Close']

# 计算收益率
returns = pd.DataFrame({
    'TSLA': tsla.pct_change().dropna(),
    'SPY': spy.pct_change().dropna()
})

回归分析与诊断

# 回归模型
X = sm.add_constant(returns['SPY'])
model = sm.OLS(returns['TSLA'], X).fit()

# 残差诊断图
fig, axes = plt.subplots(1,2, figsize=(12,5))
axes[0].scatter(model.predict(), model.resid)
axes[0].axhline(0, color='r')
axes[1].plot(model.resid)

综合检验

# 异方差检验
bp_test = smd.het_breuschpagan(model.resid, model.model.exog)
print(f"异方差检验P值：{bp_test[1]:.4f}")

# 自相关检验
lb_test = smd.acorr_ljungbox(model.resid, lags=5)
print(f"自相关检验P值：{lb_test[1][-1]:.4f}")

练习与思考

1. 尝试对SPY收益率进行平方变换后重新回归，观察残差变化

2. 将时间周期改为3年，比较β系数的稳定性

3. 在模型中添加NASDAQ指数作为第二个解释变量，分析模型改进效果

关键提示：当使用Box-Cox变换时，注意数据必须为正数，可使用公式：

\frac{y^\lambda - 1}{\lambda} & \lambda \neq 0 \\ \ln(y) & \lambda = 0 \end{cases} $ 这是Box-Cox变换的数学表达式，其中： - y 是原始数据 - λ (lambda) 是变换参数 - 当 λ = 0 时，变换等价于取自然对数 - 当 λ ≠ 0 时，使用 (y^λ - 1)/λ 进行变换 重要注意事项： - 原始数据 y 必须为正数 - 这种变换可以帮助改善数据的正态性和方差齐性 - λ 的选择通常基于最大似然估计

以下为Box-Cox变换的公式：

通过系统性的残差分析，可以有效验证模型假设，提升回归结果的可靠性。建议每次建立回归模型后，至少进行残差图的视觉检查和基本的统计检验。

附：练习合集