线性回归的工作原理：最小化平方和

线性回归的目标是调整斜率和截距的值，以找到能最好地根据X预测Y的直线。更准确地说，回归的目标是将各点到直线的垂直距离平方和最小化。为什么要把距离平方和最小化？为什么不直接将实际距离的总和最小化呢？

如果随机散布服从高斯分布，那么出现两个中等大小的偏差（例如各5个单位）的可能性，远大于出现一个小偏差（1个单位）和一个大偏差（9个单位）的可能性。 如果采用使距离绝对值之和最小化的方法，那么一条距离两个点各5单位的直线，与一条距离一个点1单位、另一个点9单位的直线相比，将无法体现出优劣之分。 这两种情况下，距离之和（更准确地说，是距离绝对值之和）均为 10 个单位。 一种旨在使距离平方和最小的方法，会更倾向于与两个点各相距5单位（平方和=50），而不是与一个点相距1单位、与另一个点相距9单位（平方和=82）。 如果数据分布呈高斯分布（或近似高斯分布），则通过最小化平方和确定的直线最有可能正确。

这些统计计算方法在每本统计学书籍中都有介绍，且完全符合标准。

“回归”一词

“回归”一词，与许多统计术语一样，在统计学中的用法与其他语境大不相同。该方法最初用于考察父亲与儿子身高之间的关系。 两者当然存在关联，但斜率小于1.0。高个子的父亲往往生出比自己矮的儿子；矮个子的父亲往往生出比自己高的儿子。儿子的高度向均值回归。如今，“回归”一词被用于多种曲线拟合。

详细内容

关于线性回归的细节已在众多教科书中有所阐述，因此在此不再赘述。Prism 软件的所有操作均符合标准。以下是一个很好的参考资料来源，其中涵盖了包括置信带和预测区间在内的基础知识。