资料文库

回归分析第8讲：标准误、t检验 & F检验

统计

一讲我们说过 R² 能告诉你模型是否有解释力，但它回答不了一个更关键的问题：

模型显著吗？变量显著吗？
影响是真的存在，还是数据碰巧看起来像有关系？

要回答这个问题——我们同时要考虑三个方面的因素：

统计量 用来判断什么？
标准误（SE） 估计是否稳定、抽样波动是否大
t检验 单个系数是否显著（自变量有没有作用）
F检验 整个模型是否成立（回归是否有解释力）

本讲的案例，我们直接用贾俊平老师《统计学》“一元线性回归”中的例11.6，即某商业银行25个分支机构的有关数据，来演示讲解。

图片

这个案例建立了一个简单一元线性回归模型：用银行的“各项存款余额”来解释“不良贷款”。没有使用过这本书的同学，只看输出结果就好。

【一】标准误（Standard Error）到底是什么？

当我们做回归、做统计推断，最容易忽略但又最关键的量就是——标准误差（SE）。标准误差不是数据波动，而是估计值的波动。它回答的是：

如果我们重复做同一个回归模型，估计系数会不会稳定？

  • 若多次估计都得到类似的系数 → 标准误小 = 可信度高
  • 若不同样本得到的系数差异很大 → 标准误大 = 推断不可靠

这个和标准差不一样：

  • 标准差SD：衡量的是数据本身，也就是样本 Y 值离散程度有多大。
  • 标准误差SE：针对的是回归系数或Y的均值，衡量它们的估计值是否稳定、抽样波动是否严重。

实际上，标准误有两个经典公式：

① 残差标准误（整体误差、总体误差）

它衡量模型总体预测误差，这个值通常直接出现在Excel/Stata/SPSS回归表中。它的公式如下：

图片

它用于估计残差方差，描述误差项  的整体波动。其中：n 是样本量，k 是模型的自变量数量。

本讲的案例中，用 SPSS 进行回归的结果是这样的：

图片

解释如下：

  • R （Multiple R） = 0.844 → X与Y高度正相关，这个就是相关系数
  • R方（R²) = 0.712 → 回归解释了 72% 的不良贷款波动，本例中，它就是相关系数的平方
  • 调整的R方（Adjusted R²） = 0.699 → 剔除自由度影响后，真实解释率约 ≈70%
  • 标准估算的错误（标准误）1.9799 → 模型预测不良贷款时，平均误差约 ≈ 2亿元

也就是说，虽然拟合效果不错，但模型预测仍存在约 2亿元的误差范围，这就是总体残差标准误的含义。

**② 回归系数的标准误 — 直接决定 t 值

图片

这个公式说明：

当样本中 X 变化越大
→ 分母越大 → 标准误越小
→ 回归更容易显著

也就是：X波动越丰富，越能看清它对Y的影响。

我们看一下案例的输出：

图片

**第三列“标准错误” 0.005 就是****系数的标准误（**Std.Error）：

它越小，t值越大，显著性就越容易达到统计标准。

一句话总结：

  • 标准误小 → 模型估计稳定 → 系数显著性更可信

  • 标准误大 → 系数不稳定、可能显著不成立

它实际上是衡量回归线周围散点的离散程度，也就是我们预测的波动有多大。

【二】t 检验——检验_某个自变量到底有没有作用

t 检验回答的是一个关键问题：

这个变量真的在影响 Y，还是只是“看起来像”有影响？

其统计逻辑是通过显著性来判断：

原假设与备择假设：

  • 原假设：H₀：β₁ = 0（贷款余额对不良贷款没有影响）
  • 备择假设：H₁：β₁ ≠ 0（贷款个余额对不良贷款有影响）

检验统计量为：

图片

但这里我们要注意：

显著 ≠ 很重要

对决策来讲，要判断的是变量重要程度，而不是看它的显著性。

【三】F检验——检验整个模型是否有意义

t 检验看单变量，而 F 检验看整个回归方程是否成立。

F 统计量计算的是：

图片

它永远 ≥ 0，不会出现负数，因此我们只关心 模型是否“显著大于 0”，即：

图片

→ 如果 F 很小 → 模型没有解释力
→ 如果 F 很大 → 拒绝 H₀，至少有一个变量有效 → 认为模型有效

它不涉及“系数大或小的方向性”，只是判断模型整体是否成立，所以是单侧判断。

贾老师的这个案例中：

图片

**F统计量≈56.754，**p<0.001 → 模型整体非常显著

它的含义是：

  • 贷款余额的解释不是某种巧合
  • 回归方程整体可以用于预测与分析

若未来加入更多变量，例如：监管等级、资本充足率、区域经济景气度等

则可能出现：F 显著，但部分 t 不显著

这意味着：

  • 模型整体有效，但贡献来源复杂
  • 可能存在共线性或变量弱影响

【四】本文总结 

本文总结如下：

概念 回答的问题 结论要点
标准误 SE 估计稳不稳？ SE小→估计稳定→t更大
t检验 单个变量有用吗？ 显著≠效果大 / ≠政策重要
F检验 整个模型成立吗？ 团队显著≠个人都显著

要记住：

显著性不是结论本身。

显著性只能证明“存在影响”，不能替你判断“影响重要”。

真正的分析，要结合经济含义、效果量、决策成本与收益。