观察与实验的必经之路—最小二乘法

在近代数理统计学还没有建立之前，科学家已经用统计方法来处理他们观测和实验所得到的大量数据了。当时没有计算机，数据的处理都靠手算，他们处理数据的目的也希望由这些数据得出各种物理量之间的某种确定关系。例如，一定量的气体，压力、体积与温度之间的关系。但是由于观测和实验的误差，这些数据不都恰好落在一条直线或一条光滑曲线（或曲面）上。这样我们需要找一条曲线，使它最接近理想的曲线，这个方法就是最小二乘法。最小二乘法是200年前由勒让德和高斯独立发现的。他们的思想也很简单，用波瓦亚的例子说，把一头牛放在湖的中心，牛从哪儿上岸呢？显然这种哑巴动物一定会选择离它最近的岸边做为它的目标。用坐标来表示，那就是使距离 极小，这用初等方法或微积分就可以解出来。这种方法在统计上也很有用处，因为样本的平均值就是总体平均值的最小二乘估计。