回归分析第17讲:回归结果里最容易被误读的 6 个地方

统计

很多同学以为读回归结果,就是盯着几个数字:t 值、p 值、R²,最多再看一下 F 值。

但真正的实证分析中,最大的问题不是“不会跑模型”,而是“读错结果”。

这一讲,我们总结一下回归输出结果中,最容易被误读的 6 个关键地方。

【一】只看 p 值,不看系数方向(方向反常却被当成“显著”)

很多论文这样写:

“系数显著,因此说明……(然后开始讨论机制)”

但显著只是说明:

“变量与 0 不一样”,并不说明关系的方向和意义是对的。

例如:

某研究里出现这样一个极常见的情况:论文跑出来“教育程度显著降低收入”(p<0.01),系数却是负的,而常识和理论都告诉我们教育应该提高收入。研究者只看到 p 值显著,于是开始分析“为什么教育让收入下降”,却忽略了最关键的问题:方向已经不对了。

这类“显著但反常”的结果往往意味着模型出了问题,比如:

  • 自变量高度共线性 → 系数方向可能直接反转
  • 遗漏了关键变量 → 影响被错误归因
  • 控制变量加错了 → 把中介变量当成控制变量硬塞进去
  • 变量度量方式不一致 → 对数化、标准化或缩放问题

显著性只是“统计判断”,方向与经济意义才是“科学判断”。

【二】只看 t 值大小,不看标准误(t 值大不一定代表关系强)

t 值公式是:

图片

很多同学以为“t 大 → 说明关系强”,但这并不对。

因为 t 大可能是:

  1. 系数真的大(这才是我们希望的)
  2. 标准误非常小(可能是样本极度集中)
  3. 模型被高强度正则化(例如 Ridge 把系数缩小 → 标准误变小)
  4. 变量范围窄(量纲问题导致 SE 小)

举个例子:

系数只有 0.05,但 SE = 0.0001 → t 值巨大。但是 0.05 的变化,意味着X 对现实的影响是非常小的。

真实的经济影响应该看“系数的量级”,不是 t。

【三】高 R² ≠ 好模型(很多显著回归都是“伪关系”)

“老师,R²=0.98,这模型是不是特别好?”

很多学生会这么问。

但高 R² 有时候恰恰说明:

  • 你掉进了 伪回归(spurious regression) 里
  • 时间序列没有平稳处理(都在一起往上走)
  • 变量过多,严重过拟合
  • 共线性导致模型表面拟合得好

一个经典例子:

统计学里有一个著名的“伪相关”案例:美国人均黄油消费量与缅因州离婚率。如果把两者做回归,会得到几乎 0.99 的 R²,非常显著,看起来像是“强关系”。但实际上,这两个变量之间毫无联系,只是恰好都随时间呈现相似的上升和下降趋势。这个例子提醒我们:高 R² 不等于有因果关系,时间序列在未做平稳性处理时很容易出现伪回归。

因此,真正靠谱的判断应该看:

  • 残差图
  • DW 值
  • ADF 平稳性
  • 是否出现过拟合
  • 预测能力而非拟合能力

R² 只能当“参考”,不能当“结论”。

【四】控制变量不是越多越好(过度控制反而导致误解)

很多人误解控制变量为:越多模型越严谨。

但控制变量表示的是:

“在固定其他变量不变的前提下,X 对 Y 的影响。”

如果控制变量加错,会造成:

常见错误 1:中介变量被错当控制变量

比如:X → Z → Y

Z 是中介,但你把 Z 当控制变量 → X 的影响就被“压没了”。

常见错误 2:控制变量和主解释变量高度相关

结果就是:

  • 系数方向乱跳
  • 系数显著性突然消失
  • 标准误膨胀(共线性)

常见错误 3:控制变量过多导致“低维数据灾难”

样本只有几十个,加十几个控制变量 → 模型基本跑不动。

控制变量必须有理论依据,而不是随便增减。

【五】拿未标准化系数比较“谁更重要”(完全错误)

这是论文中第二常见的误解:

“X1 的系数比 X2 大,所以 X1 更重要。”

这是完全错误的。

例如,两个自变量:

  • 广告投入(万元)系数 = 3.5
  • 折扣率(%)系数 = 0.08

结果论文写成:

“广告投入对销量的影响更大”,显然是错误的。

因为:

  • 单位不同
  • 量纲不同
  • 变量的取值范围也不同

斜率根本没有可比性,未标准化系数不能用于重要性比较。

应该:

✔ 看标准化系数 Beta

(所有变量都变成“标准差单位”,可直接比较大小)

✔ 看特征重要性(如 dropout、SHAP)

✔ 或用 LASSO / Elastic Net 做变量选择

未标准化系数绝对不能比较“重要性”。

【六】 小样本中,p 值不稳定(不显著 ≠ 没关系)

一些论文中,样本量很小:n=20、n=30,然后根据 p 值得出:

“不显著 → 没关系”

但样本量小的时候:

  • 标准误很大
  • p 值极不稳定
  • 稍微改变样本 → 结果完全变样

特别是共线性 + 小样本,更是能把系数“抖得飞起来”。

小样本下:

  • p 值不能作为主判断
  • 更重要的是:方向、符号稳定性、不同模型重复验证
  • 更应该使用:LASSO、Elastic Net、Ridge(正则化模型对小样本更稳)

显著性检验本质依赖“大的样本”,不是只有二三十个观测值。

【七】小结

回归输出中最容易被误读的 6 个地方

误读点 正确解读方式
1. 只看 p 值 方向、经济含义更重要;显著≠重要,不显著≠没用
2. 只看 t 值 看清标准误从哪里来:共线性可能放大/缩小 t 值
3. 迷信 R² 必须做残差诊断;高 R² 也可能是伪关系
4. 控制变量越多越好 依据理论选择;不要把中介变量和结果变量一起控制
5. 拿斜率比重要性 看标准化系数(Beta)或变量重要性方法(如 LASSO)
6. 小样本依赖 p 值 小样本 p 值不稳定,用正则化方法 + 稳健性检验更可靠