在开展基于可能性推理的课程时,关键主题之一是基于似然函数的测试和置信区间构建。通常包括Wald,似然比和分数测试。在这篇文章中,我将修改Wald和似然比测试的优缺点。我将重点关注置信区间而不是测试 。
示例
我们将X表示观察到的成功次数的随机变量,x表示其实现的值。似然函数只是二项式概率函数,但参数是模型参数。 所以MLE只是观察到的比例。
Wald置信区间
如果我们使用将参数空间(在我们的示例中为区间(0,1))映射到整个实线的变换,那么我们保证在原始比例上获得仅包括允许参数值的置信区间。
对于概率参数绘制的n = 10,x = 1的二项式示例的对数似然函数
从视觉上我们可以看出,对数似然函数在绘制时 实际上不是二次方。下图显示了相同的对数似然函数,但现在x轴是对数几率:
二项式的对数似然函数n = 10 x = 1示例,相对于对数几率。
似然比置信区间
似然比95%置信区间定义为(或模型参数为)的那些值总之,虽然似然比方法具有明显的统计优势,但计算上Wald区间/测试更容易。在实践中,如果样本量不是太小,并且Wald间隔是以适当的比例构建的,它们通常是合理的(因此它们在统计软件包中使用)。然而,在小样本中,似然比方法可能是优选的。
此外,当似然比方法仍然(通常)合理时,Wald方法完全失败的情况是在测试参数是否位于其参数空间的边界时。出现这种情况的情况包括随机效应模型,其中我们通常感兴趣的是测试随机效应方差参数是否等于零的零假设。
来源:https://blog.csdn.net/qq_19600291/article/details/100539962