Please enable JavaScript to view this site.

Navigation: 回归分析原理 > 非线性回归原理 > 非线性回归的工作原理

如何计算剖面似然非对称置信区间

Scroll Prev Top Next More

剖面似然不对称置信区间的基本思想

在 Prism 7 之前,Prism 仅报告渐近置信区间,这些区间总是以控制数据为中心呈对称分布。

对于某些模型中的某些参数,不对称区间更能准确地反映精度。Prism(从第7版开始)通过剖面似然置信区间提供了这一功能,用户可在非线性回归对话框的“置信区间”选项卡中进行选择。 其缺点是:许多用户对此不熟悉,且计算时间较长(但如果使用高性能计算机,除非数据集非常庞大且选择了用户自定义方程,否则您可能甚至不会察觉到这一差异)。

其原理非常简单。额外的平方和检验用于比较两个模型。  

•复杂模型即为所选模型。结果页面的全部内容均针对该模型。

•简单模型将一个参数固定为常数值。其思路是将该参数固定为各种值,直到找到置信区间(如下文所述)。

以下是一个非常简化的算法,它大致解释了该方法背后的原理。将平方和定义为 SS,自由度定义为 DF。

1.将变量 Delta 设为要计算置信区间(CI)的该参数的标准误差(SE)(然后对其他参数重复此操作)。

2.将该参数固定为其控制数据减去 delta,然后重新进行拟合,同时让所有其他参数值变化。记录此次拟合的新 SS 和 DF 值。

3.使用额外平方和F检验,将原始最佳拟合结果与此次强制参数减少 Delta 值的拟合结果进行比较。第二次拟合将一个参数固定为常数值,因此拟合的参数少了一个,自由度也就多了一个。计算 P 值。

a.如果 P 值小于 0.05,则 delta 过大。将其调小,然后返回步骤 2。

b.如果 P 值大于 0.05,则 delta 过小。将其增大,然后返回步骤 2。

c.如果 P 值非常接近 0.05,则下置信区间等于原始控制数据减去 delta 的当前值。

4.将该参数固定为控制数据加上 delta,然后让所有其他参数值变化,再次进行拟合。记录此次拟合的平方和 (SS) 和自由度 (DF)。

5.使用额外平方和F检验,将原始最佳拟合结果与本次强制参数增加 delta 值的拟合结果进行比较。计算 P 值。

a.如果 P 值小于 0.05,则 delta 过大。将其调小,并返回步骤 4。

b.如果 P 值大于 0.05,则 delta 过小。将其增大,然后返回步骤 4。

c.如果 P 值非常接近 0.05,则上置信区间等于原始控制数据加上 delta 的当前值。

6. 对每个参数重复上述步骤。

这将生成该参数的 100*(1-α)% 置信区间(在 α 通常设为 0.05 的常见情况下,即 95% 置信区间)。 若要检验“真实参数值等于其控制数据”这一零假设,则对于该置信区间内的任何参数值,该零假设均不会被拒绝。

更正式地说:设 θbf 为参数的控制数据,θhyp 为参数的一个假设的不同值。在 α 显著性水平下,若 θhyp 位于置信区间内,则“θbf = θhyp”这一零假设不会被拒绝;若 θhyp 位于置信区间外,则该零假设将被拒绝。

Prism 如何计算剖面似然置信区间

Prism 实际上针对每个参数都采用了 Venzon 和 Moolgavkar(1) 所详细描述的步骤。该方法为每个参数生成一个剖面似然曲线。对于参数的各种可能取值,算法会拟合曲线(同时优化其他参数),并确定数据来自该模型的似然值。 置信区间是指似然值不比其最大值低得过多的参数值范围。当然,“过低”这一概念有严格的定义。

最大似然值位于参数的控制数据处。在文献中绘制这些分布曲线时,通常绘制的是似然值的负对数。 最大似然值等同于 -log(似然值) 的最小值,因此在这些图表中,控制数据即为 Y 值最低时的 X 值。

若假设所有残差均服从高斯分布,则最大化似然函数等同于最小化残差平方和。

注

• 用于计算上置信限的最终δ值可能不等于(甚至远小于)用于计算下置信限的最终δ值。这就是为什么置信区间可能在控制数据周围呈现非对称分布。

•上文提到的 0.05 的 P 值目标仅适用于需要 95% 置信区间的情况。若需要 99% 置信区间,则使用 0.01,依此类推。

•参考文献 1 中介绍的方法(Prism 采用的方法)比上述描述的方法要巧妙得多,因此计算量更少。

•通过这种方式计算的置信区间仅针对该单一参数。其原理是,每个置信区间有95%的概率包含真实的参数值。 该95%的概率并不适用于所有置信区间集合。若认为所有置信区间都有95%的概率包含各自的真实参数值,这种说法是不正确的。

•在计算上述额外平方和F检验时,请注意这两个模型的自由度相差1。这是因为我们固定了一个参数,并让Prism拟合其余参数。有些文献(2)则假设您固定了所有参数,而不仅仅是一个。 因此,纳入 F 检验的两个模型在自由度上相差 K,其中 K 是拟合参数的数量。这些置信区间的宽度更大,我认为其本意是让 95% 的置信水平同时适用于所有置信区间,而非仅适用于其中一个。 Prism 并未采用这种方法。在 Prism 中,被比较的两个模型之间的自由度差异始终为 1。

•我们采用的方法也由 Watts(3) 进行了描述。Prism 软件生成的结果与他在表 III 数据基础上得出的表 IV 结果一致。

•在某些情况下,该方法无法确定其中一个置信区间,因此会报告“???”而非具体数值。

参考文献

1.Venzon DJ, Moolgavkar SH. 一种基于剖面似然度的置信区间计算方法。《应用统计学》. 1988;37(1):87.

2.Kemmer, G., & Keller, S. (2010). 在 Excel 电子表格中进行非线性最小二乘数据拟合。《自然协议》,5(2),267–281。 http://doi.org/10.1038/nprot.2009.182

3.Watts, D.G. (2010) 非线性模型的参数估计,《基本数值计算方法》(M Johnson 著)第2章,Academic Press 2010年版。