6.3 抽样分布

数学学习 · 爱知数学讲义

18
本章目录 · 1 节

本章导读

【6.3 抽样分布】统计量是样本的函数,其计算式不含未知参数。它在抽样前是随机变量,代入样本值后得到观察值。统计量的概率分布称抽样分布,描述重复抽样时统计量如何波动;它不等于原总体的分布。

【常用统计量】对容量的样本,定义样本均值、样本方差和标准差为

方差及标准差要求。样本阶原点矩;阶中心矩。特别,不能与混为一谈。把大写换成观测便得到相应样本均值、方差、标准差及样本矩的观察值。

若,辛钦大数定律给出。连续函数进一步满足,这是矩估计的依据。不能在所需矩不存在时照搬这一结论。

【经验分布函数】对已记录的,

它非减、右连续,在负无穷极限为0、正无穷极限为1;每个不同数据值处的跳跃高度为该值出现次数除以,重复观察必须合并计数。若排序数据互不相同,则于,于,于。有并列值时优先用指示函数定义,避免把不存在的区间也画成阶梯。

例如样本值的经验分布函数依次在、、、上取。

xF3(x)-10121/32/31
图6—6 样本−1、1、2的经验分布函数;实点是跳跃处函数值,空点表示该段不包含的端点

【定理1 格里汶科定理】独立同分布样本的经验分布函数满足

即在整个实轴上几乎必然一致收敛,不只是某一个固定的点态收敛。这为用样本描述总体分布提供依据,但不保证某个有限样本恰好等于总体分布。一般证明从略。

【一、卡方分布】若相互独立且为标准正态变量,则,为自由度。密度为

单个,独立同尺度伽马变量的和为,所以得到上述密度。独立的、满足。由、得、。

x05101520250.10.30.5
图6—7 自由度1、2、4、6、11的卡方密度;自由度1在原点右侧趋向无穷,图上超出纵轴范围的部分未显示

上分位数满足。例如。大自由度时可用费希尔近似

对、,保留完整得约67.219,准确分位数约67.505。书中使用1.645得到的67.221是舍入后近似,两者都不能标作准确分位数。极端尾部和较小自由度应使用准确分布函数或可靠分位数计算。

x0q = 10.64520
图6—8 卡方上分位数示例:自由度6、右尾概率0.1;阴影向右延伸至无穷

【二、t分布】若、且相互独立,则

密度关于0对称,有限自由度的尾部比标准正态更厚;自由度趋于无穷时密度趋于标准正态密度。上分位数满足,由对称性。大自由度可近似,但精度还取决于尾部概率,不把某个固定自由度阈值当成所有情况下的保证。

x-4-3-2-101234N(0,1)t(25)t(9)t(2)
图6—9 自由度2、9、25的t密度与标准正态密度比较
x0q = 1.833
图6—10 t上分位数示例:自由度9、右尾概率0.05;分位数位于右侧而非左右两尾各0.05

【三、F分布】若、独立,则

分子与分母分别除以自己的自由度,两个自由度的次序不能互换。其密度为

x012345F(10, 40)F(11, 3)
图6—11 F密度的参数次序:(10,40)与(11,3),两条曲线按公式计算

倒数。上分位数定义为,于是

证明:取倒数时不等号反向,原变量左尾概率变为倒数变量右尾概率,再用连续分布的分位数唯一性。注意同时交换自由度并把改为。例如,这里2.80本身已经是查表舍入值。

x0q = 2.0774
图6—12 F上分位数示例:自由度(10,40)、右尾概率0.05;阴影表示右尾而非左尾

【四、样本均值与方差的一般矩性质】只要独立同分布总体有均值、有限方差,便有

第三式由取期望得到:分子期望为。因此使成为总体方差的无偏估计;并不意味着也无偏。上述矩等式不需要总体正态。

【定理2 正态样本的均值】若总体且,则,这是有限样本的准确分布,不是CLT近似。

【定理3 正态样本的方差与独立性】在同样条件且时,

证明要点:把标准化样本向量作正交变换,第一行取。变换后的坐标仍为独立标准正态;其中,而。后者为个独立标准正态的平方和,并且与独立,故两结论成立。这也解释了估计均值后减少的一个自由度。

【定理4 单个正态总体的t量】结合前两定理与t分布定义,

分母是样本标准差所形成的标准误;若把换为已知总体标准差,则是标准正态。含未知的这一表达式是枢轴量,严格说不能在未知时称为只由样本算出的统计量;这与、本身是统计量不矛盾。

【定理5 两个独立正态样本】设样本容量,总体分别为、且两整组样本独立。则

若另有,定义合并方差

便有

证明:两个标准化残差平方和独立且分别为卡方分布,按自由度归一化取比便得F量;等方差时二者相加为,又与标准化均值差独立,代入t分布定义即得。方差不等时不能继续宣称这一合并方差公式具有相同的准确t分布。这里的准确卡方、t、F结论依赖正态性及所列独立条件,一般总体仅有前述均值、方差矩等式。