Please enable JavaScript to view this site.

请记住,在线性回归中,预测方程旨在使残差平方和最小(也就是说,它会选择一条通过数据点的直线,使得该直线与所有数据点之间垂直距离的平方和最小)。 在逻辑回归中,所有观察值都被编码为 0(失败)或 1(成功)。与简单线性回归类似,简单逻辑回归也只有一个自变量(X)。 逻辑回归的目标是预测观测到 0 或 1 的概率,而如果仅仅通过最小化各点到直线的距离平方和来拟合一条直线,将会导致一个毫无意义的模型(相关内容已在上一节“简单逻辑回归与简单线性回归的区别”中讨论)。

那么,模型究竟是如何拟合的呢?该模型通过最大化统计学家所称的“似然函数”来实现。从非常通用的角度来看,这个最大化似然的过程可以理解为:选择最有可能产生观测数据的模型系数估计值。 因此,需要注意的是,逻辑回归模型在拟合(或分类)输入数据方面的表现通常优于对新数据结果的准确预测。

关于逻辑回归还有另一个关键点需要记住:与线性回归不同,逻辑回归的似然最大化需要迭代求解器,这意味着它会选择一些初始值,并“沿山向上”采取有根据的步骤,朝着最大的似然值迈进,从而确定最大值。 这也意味着——与线性回归不同,但与非线性回归相似——在某些情况下,针对给定数据集无法确定简单逻辑回归模型。用“统计学家的术语”来说,我们会说无法确定最大似然值,或者简单地说,模型未收敛。

简单逻辑回归模型无法收敛通常有几个常见原因,这些原因将在另一页面中分别进行讨论。