资料文库

回归分析第1讲：回归这个词从哪里来？它到底研究什么？

统计

如果你第一次听到“回归（regression）”这个词，很可能会觉得它非常抽象：为什么研究变量关系要叫“回归”？为什么不是“影响分析”“预测模型”“解释方式”？

事实上，“回归”这个名字背后，同样有一个非常有趣的历史故事，而理解这段历史，能帮助我们真正抓住回归分析的逻辑起点。本讲我们不推公式，不讲算法，只回答两个最基础的问题：这个词从哪里来？回归分析到底研究什么？

【一】回归这个词的来源：从一项“身高研究”开始**

“回归（regression）”不是现代统计学家发明的名词，而是英国统计学家Francis Galton（高尔顿） 在1886年提出的。他研究的是一个非常朴素的问题：父母的身高与孩子的身高之间，是否存在某种可预测的关系？

弗朗西斯·高尔顿（Francis Galton，1822—1911），是19世纪典型的“百科全书式科学家”，在统计学、遗传学、心理测量学和地理探索等多个领域都留下了奠基性贡献。他提出了“回归”（regression）和“相关”（correlation）等统计学核心概念，引入四分位距、散点图等基础工具，并推动了现代统计方法的系统化发展。他一生发表了300多篇论文和15本书，横跨多个学科。

高尔顿同时也是查尔斯·达尔文的表弟，其母亲是达尔文的亲姑姑。深受达尔文进化论思想影响，高尔顿尝试将“遗传”和“变异”的概念数学化，进而推动了数量遗传学与早期心理测量方法的发展。可以说，他在统计学上的创新，既源于对自然科学规律的敏锐观察，也体现了达尔文思想在定量研究中的延伸。

【二】高尔顿的发现：极端会“向平均值靠拢”

在统计大量家庭身高数据之后，高尔顿发现一个非常反直觉的现象：

  • 父母特别高，孩子往往也高，但没有父母那么高
  • 父母特别矮，孩子往往也矮，但没有父母那么矮

也就是说：

来自“高极端”或“矮极端”的孩子，都会往整体平均身高靠拢一部分。

高尔顿把这种现象称为：

regression toward the mean（向平均值回归，也称“均值回归”）

这就是“回归分析”名字的来源。

虽然今天的回归分析早已不仅仅研究“向平均值回归”，但这个名字提醒我们一件非常重要的事：

回归分析的本质，是用一条平均规律来描述变量之间的关系。

【三】mid-parent：高尔顿的“父母综合身高指标”是什么？

为了研究“父母身高 → 子代身高”的关系，高尔顿提出了一个关键量：

mid-parent height（中父母身高）

它不是简单的父母身高平均值，而是：

图片

其中1.08是高尔顿用来把母亲身高“换算成男性身高标尺”的校正系数。只有这样，父母身高才能在同一量表上比较。

mid-parent 的意义非常朴素：

它代表父母综合的遗传身高水平。

横轴是 mid-parent，纵轴是子代身高。在他著名的 1886 年图版中，孩子身高的中位数点构成一条倾斜的趋势线，这就是最早的“回归线”。

虽然那时的回归线还不是现代的最小二乘法，但思想已经非常接近：

用一条线，总结 X 与 Y 之间的平均关系。

下图是高尔顿原论文中的“回归图版”，是他1886年论文中的图版，标题为“RATE OF REGRESSION IN HEREDITARY STATURE” 。横轴是“中父母身高”（mid-parent），纵轴是子代身高，线段和点展示了不同父母身高组对应子代的中位数，并画出了一条“回归线”，同时在图上写了文字说明 “When Mid-Parents are taller than mediocrity, their Children tend to be shorter than they”。

图片

下图是Henry老师重画的“父子身高回归示意图”，其中：

  • 横轴：父亲身高
  • 纵轴：儿子身高
  • 圆点：父亲身高和儿子身高的散点图
  • 两条斜线分为为 45°线和回归线。

图片

【四】现代回归分析的核心精神：理解变量之间的“系统性规律”

虽然“回归”一词来源于“向平均值回归”，但现代回归分析的重点已大幅扩展。今天我们做回归，绝不是为了研究“孩子会不会退回平均身高”，而是为了解决更普遍的问题：

  • 教育是否会影响收入？
  • 污染是否会加剧医疗成本？
  • 数字经济是否促进企业创新？
  • 企业 ESG 表现是否降低融资成本？
  • 广告投放是否能提升销量

换句话说：

回归分析研究的是：Y（结果）如何随着 X（因素）而系统性变化。

它不只是给出一个“相关系数”，而是提供一种理解关系的方式——一种能够解释、预测、比较，并揭示一般规律的方法。

【五】为什么所有学科都在使用回归？

从经济学、金融学，到医学、教育学、心理学，甚至政策评估与商业决策，回归分析几乎无处不在。原因很简单：

我们想回答的问题，往往都是“因素 → 结果”的因果或影响问题。

而回归分析正是为此而生的，它帮助我们：

  • 判断关系是否存在
  • 估计影响的大小
  • 排除其他因素干扰
  • 评估结果是否可靠
  • 解释背后的实际意义

可以说，回归是所有数据分析方法里最基础，也最有力量的工具之一。

在你未来的论文或研究中，回归几乎一定会被用到——它是现代实证分析最基础、最通用的工具。

【六】本讲小结

通过本讲，我们澄清了回归分析的历史来源与核心思想：

  • “回归”一词来源于高尔顿研究中发现的“向平均值回归”现象；
  • 回归分析的本质，是用数据寻找一种“平均关系”或“整体趋势”；
  • 现代回归不再局限于身高问题，而成为研究“变量如何系统性地变化”的标准方法；
  • 各学科都在使用回归，因为它能帮助我们理解现实世界的规律。