简单逻辑回归模型的表达式为 logit[P(Y=1)] = β0 + β1 * X + 误差。
右边部分与简单线性回归模型一致(请记住,简单线性回归模型为 Y = 截距 + 斜率 * X)。 左侧包含一个“logit”函数(o 发长音,g 发软音),用于调整 Y 作为仅能取 0 或 1 值的变量这一特性。 简而言之,logit 是 Y=1 的几率比的对数,而“P(Y=1)”是 Y 等于 1 的概率。请注意,此处的“P”是概率(probability)的缩写,与 P 值无关。
要理解什么是“对数比值”,首先必须了解“几率”的含义。 几率等于Y=1的概率除以Y=0的概率。例如,如果Y=1的概率为0.8(即Y=1的概率为80%),那么Y=0的概率就是1-0.8,即0.2 (请记住,Y 只能是 0 或 1,因此 Y=0 的几率等于 1-[Y=1 的几率])。利用这些数值,我们可以将几率计算为这两个数值的比:
几率 = P(Y=1)/P(Y=0) = 0.8/0.2 = 4
在此情况下,几率为 4。您经常会听到人们将其称为 4:1 的几率,读作“四比一的几率”。 既然我们已经了解了几率与概率之间的关系,就可以进行最后一步,计算自然对数几率。这只需将计算出的几率值取其自然对数(Ln):
对数几率 = Ln(几率) = Ln(P(Y=1)/P(Y=0)) = Ln(P(Y=1)/[1-P(Y=1)])
上述所有对数几率的形式都是等价的,虽然这些数学公式听起来可能相当令人困惑,但我们之所以要进行这些计算,是为了对 Y=1(或 Y=0)的概率进行建模。
更确切地说,我们希望使用线性模型(即简单逻辑回归方程的右边)来建模这一概率。 请记住,概率的取值范围在0到1之间。简单逻辑回归模型的右侧,与简单线性回归模型一样,在理论上可以产生从负无穷大到正无穷大的任意值。对数几率函数(logit函数)的作用就是作为这两个范围之间的桥梁。
首先考虑概率:这些值只能在0到1之间变化:

首先,我们计算几率,这将 0 到 1 的量表转换为 0 到正无穷大的量表(试着计算 0 到 1 之间任意概率的几率,您就会明白!):

接下来,我们对比值取自然对数,得到对数几率,这将该量表再次转换为从负无穷大到正无穷大的量表:

因此,您可以将对数 odds 函数理解为一种数学手段,用于将模型右侧生成的值(可以是任意数值)与概率的限定值(必须在 0 到 1 之间)建立联系。