7.3 估计量的评选标准

数学学习 · 爱知数学讲义

18
本章目录 · 1 节

本章导读

【7.3 估计量的评选标准】同一参数往往有多个估计量。评价既要看固定样本量时的偏差与波动,也要看样本量增大时能否逼近真实参数。不同准则回答不同问题,不能只凭一个性质断言估计量处处最佳。

【一、无偏性】对所有允许的,若存在且等于,称无偏。偏差为。无偏指重复抽样平均意义上的偏差为0,不意味着每次估计都准确,也不意味着样本数据、模型或测量过程没有其他系统误差。

若独立同分布总体有有限方差,则对无偏,对无偏;但的期望为,有向下偏差。因此“除以”与“除以”分别服务于矩估计或最大似然、无偏方差估计等不同目标,并非所有场合只有一个分母正确。

【例1 样本原点矩无偏】若,同分布性给出。由期望线性性,,所以样本阶原点矩是总体同阶矩的无偏估计。这个期望计算本身用同分布性即可,后续相合性还需要本书的独立同分布等条件。(例完)

【例2 指数总体的两个无偏估计】总体指数分布平均寿命,样本容量。有期望。令,独立性给出于,所以为均值的指数变量,密度为。因此,也是无偏估计;单个也都无偏,说明无偏估计不唯一。(例完)

【二、有效性】在相同样本容量下,设均无偏且方差有限。若对所有都有,并至少对一个参数严格小于,则本节称前者较后者有效。若两条方差曲线交叉,不能据某一个参数点的大小就作这一全参数比较。这里是两个无偏估计之间的相对比较,不自动意味着它已经达到所有估计量中的最优。

【例3 比较前例的效率】指数总体方差,所以。由得。当时,对所有成立,所以比有效;当时二者相同。(例完)

【三、相合性】一列估计量若对每个、每个均有

即,称相合。它说误差超过任意固定精度的概率趋于0,并不是说每次新增一个样本误差就必然减小。

在所需绝对矩有限的独立同分布模型中,;若参数是这些矩的连续函数,相应矩估计相合。最大似然估计在适当可识别性和正则条件下也常相合,不能省略条件而说所有模型都必然成立。

【几个性质不能混淆】无偏不推出相合:前例对每个都仍为均值的指数分布,不随下降,故不相合。相合也不要求每个有限都无偏:虽有向下偏差,但有限二阶矩下由样本矩收敛可知它相合。

若允许有偏估计,可考察均方误差。仅比较方差不足以比较有偏估计的总体误差。这一补充用于解释无偏性、波动和大样本性质的差别,后续选方法仍应依据具体模型和学习目标。