最小方差无偏估计

最小方差无偏估计

统计学上, 最小方差无偏估计(minimum-variance unbiased estimator,简写为MVUE)是一个对于所有无偏估计中,拥有最小方差的无偏估计。若无论真实参数值θ是多少,最小方差无偏估计(MVUE)都比其他不偏估计有更小或至多相等的方差,则称此估计为一致最小方差无偏估计(uniformly minimum-variance unbiased estimator,简写为UMVUE)。

    • 中文名:最小方差无偏估计
    • 外文名:minimum-variance unbiased estimator
    • 缩写:MVUE
    • 特点:拥有最小方差的无偏估计
    • 领域:统计学

原理介绍

为参数函式

的一个无偏估计,且对于参数函式

的任一无偏估计

恆有下列关係

则称

为参数函式

的一致最小方差无偏估计(UMVUE)。

若参数函式

存在无偏估计,则可证明出一致最小方差无偏估计存在且只有一个。

一般地,设

是参数函式

的无偏估计且统计量

是分布族的完备充分统计量,则

是参数函式

的一致最小方差无偏估计(UMVUE)。

评估器选择

不需要存在有效的估计量,但如果确实如此,并且如果它是无偏的,那么它就是MVUE。 由于估计量δ的均方误差(MSE)是

MVUE使无偏估计中的MSE最小化。 在某些情况下,偏差估计量的MSE较低,因为它们的方差小于任何无偏估计量。

例子

考虑将数据作为单个观察,来自

上具有密度的绝对连续分布

我们希望找到UMVU的估算器

首先,我们了解到密度可以写成

这是一个指数族,具有足够的统计量

。实际上这是一个满秩指数族,因此

足够完整。

因此,

在这里,我们使用Lehmann-Scheffé定理得到MVUE

显然

是无偏并且

足够完整,因此UMVU估算器是

这个例子说明了完整的充分统计量的无偏函式将是UMVU,正如Lehmann-Scheffé定理所述。

其它例子

对于具有未知均值和方差的常态分配,样本均值和(无偏)样本方差是总体均值和总体方差的MVUE。

然而,样本标準偏差对于总体标準偏差不是无偏的。

此外,对于其他分布,样本均值和样本方差通常不是MVUE - 对于具有未知上限和下限的均匀分布,中间範围是总体均值的MVUE。

如果在具有未知上限N的集合{1,2,...,N}上从离散均匀分布中选择k个样本(没有替换),则N的MVUE是

其中m是样本最大值。 这是样本最大值的缩放和移位(如此无偏)变换,这是一个足够和完整的统计量。

相关词条

相关搜索

其它词条