Please enable JavaScript to view this site.

高度相关的预测因子,或者更普遍地说,线性相关的预测因子,会导致估计结果不稳定。什么是“线性相关的预测因子”?这简单来说就是指一个变量可以表示为另一个变量的线性函数。 例如,如果 X2 = 3*X1 + 6,则变量 X1 和 X2 就是线性相关的。本示例是一个非常简单的线性相关示例,但由此可以看出,只要知道 X1 的值,就能自动得知 X2 的值。 因此,作为预测因子,如果模型中已包含 X1,则 X2 不会为模型提供任何新信息。

在预测建模中,这个问题被称为多重共线性。在极端情况下,如果模型中的两个 X列完全相等,优化算法将无法确定任一列的系数估计值。这是因为存在无限多个解。 为了更清楚地理解这一点,考虑一个简单的情况:估计的逻辑回归模型为 logit(Y) = 1 + 2*X1。现在,假设我们创建了 X2(它是 X1 的副本),并尝试使用这两个预测因子重新拟合模型。 该预测模型可以用多种等价形式表示,例如:

logit(Y) = 1 + X1 + X2

logit(Y) = 1 + 2*X1

logit(Y) = 1 + 0.5 * X1 + 1.5 * X2

事实上,通过使用不同的系数,该方程可以被重写出无穷多种形式。在统计学中,这种模型被称为不可识别模型。在这种极端情况下,无法计算标准误差、置信区间和P值。

实际应用中更常见的情况是,预测因子之间存在强相关性,但并非完全相关。尽管 Prism 在这种情况下仍会生成估计值,但也会出现类似的问题。多重共线性会增加参数估计的不确定性,从而导致置信区间和 P 值增大。

如果您的唯一关注点是预测,那么标准误差较大实际上并不是问题。但是,如果您希望解读系数估计值的大小(例如,X1 值越大,成功的概率越高),那么多重共线性就成为了一个问题。

在 Prism 中,您可以通过方差膨胀因子(VIF)来评估多重共线性。一般经验法则是:VIF 大于 10 表明存在严重的多重共线性。 在这种情况下,您可能需要剔除 VIF 值较高的列之一,重新拟合模型,并根据需要重复此操作。关于 VIF 的更详细说明请参见此处。

您还可以选择让 Prism 输出相关矩阵。该矩阵以矩阵形式展示了预测因子之间的成对相关性。与模型中其他变量高度相关的预测变量会导致标准误差、置信区间和 P 值的估计出现问题。