1、第六章 参数估计在实际问题中, 当所研究的总体分布类型已知, 但分布中含有一个或多个未知参数时, 如何根据样本来估计未知参数，这就是参数估计问题. 参数估计问题分为点估计问题与区间估计问题两类. 所谓点估计就是用某一个函数值作为总体未知参数的估计值；区间估计就是对于未知参数给出一个范围，并且在一定的可靠度下使这个范围包含未知参数.例如, 灯泡的寿命 X 是一个总体, 根据实际经验知道, X 服从 , 但对每一批灯)(2N泡而言, 参数 是未知的 ,要写出具体的分布函数, 就必须确定出参数 . 此类问题就属于2,参数估计问题.参数估计问题的一般提法:设有一个统计总体, 总体的分布函数为 , 其中
2、 为未知参数 ( 可以是向量). 现)(xF从该总体中随机地抽样, 得一样本,nX,21再依据该样本对参数 作出估计, 或估计参数 的某已知函数 ).(g第一节 点估计问题概述分布图示 引言 点估计的概念 例 1 评价估计量的标准 无偏性 例 2 例 3 有效性 例 4 例 5 例 6 相合性 例 7 例 8 内容小结 课堂练习 习题 6-1 内容要点一、点估计的概念设 是取自总体 X 的一个样本, 是相应的一个样本值. 是总体nX,21 nx,21 分布中的未知参数, 为估计未知参数 , 需构造一个适当的统计量),(21nX然后用其观察值 ,x来估计 的值.称 为 的估计量. 称 为 的估计
3、值. 在不致混淆的情况下, ),(21nX ),(21n估计量与估计值统称为点估计,简称为估计, 并简记为 .注: 估计量 是一个随机变量, 是样本的函数，即是一个统计量 , 对不同),(21n的样本值, 的估计值 一般是不同的.二、评价估计量的标准从例 1 可见,参数点估计的概念相当宽松, 对同一参数,可用不同的方法来估计, 因而得到不同的估计量, 故有必要建立一些评价估计量好坏的标准.估计量的评价一般有三条标准:1. 无偏性;2. 有效性;3. 相合性（一致性）.在本节的后面将逐一介绍之.在具体介绍估计量的评价标准之前, 需指出: 评价一个估计量的好坏, 不能仅仅依据一次试验的结果, 而必
4、须由多次试验结果来衡量. 因为估计量是样本的函数, 是随机变量. 故由不同的观测结果, 就会求得不同的参数估计值. 因此一个好的估计, 应在多次重复试验中体现出其优良性.1无偏性估计量是随机变量, 对于不同的样本值会得到不同的估计值. 一个自然的要求是希望估计值在未知参数真值的附近, 不要偏高也不要偏低. 由此引入无偏性标准.定义 1 设 是未知参数 的估计量, 若),(1nX,)(E则称 为 的无偏估计量.注: 无偏性是对估计量的一个常见而重要的要求 , 其实际意义是指估计量没有系统偏差，只有随机偏差. 在科学技术中, 称 )(为用 估计 而产生的系统误差.例如, 用样本均值作为总体均值的估
5、计时, 虽无法说明一次估计所产生的偏差, 但这种偏差随机地在 0 的周围波动,对同一统计问题大量重要使用不会产生系统偏差.对一般总体而言，我们有定理 1 设 为取自总体 X 的样本,总体 X 的均值为 , 方差为 .则nX, 2(1) 样本均值 是 的无偏估计量;(2) 样本方差 是 的无偏估计量;2S(3) 样本二阶中心矩 是 的有偏估计量.nii12)(2有效性一个参数 常有多个无偏估计量,在这些估计量中,自然应选用对 的偏离程度较小的为 好,即一个较好的估计量的方差应该较小.由此引入评选估计量的另一标准有效性.定义 2 设 和 都是参数 的无偏估计量, 若),(11nX),(12nX,)
6、2D则称 较 有效.12注: 在数理统计中常用到最小方差无偏估计, 其定义如下:设 是取自总体 X 的一个样本, 是未知参数 的一个估计量, 若nX ),(1n满足:(1) 即 为 的无偏估计;,)(E(2) 是 的任一无偏估计.则称 为 的最小方差无偏估计(也称最佳无偏估计).3相合性(一致性)我们不仅希望一个估计量是无偏的, 并且具有较小的方差, 还希望当样本容量无限增大时, 估计量能在某种意义下任意接近未知参数的真值, 由此引入相合性(一致性) 的评价标准.定义 3 设 为未知参数 的估计量, 若 依概率收敛于 , 即对任意),(1nX, 有0,1|limPn或 ,0|li则称 为 的(
7、弱)相合估计量.例题选讲点估计的概念例 1(E01) 设 X 表示某种型号的电子元件的寿命 (以小时计 )，它服从指数分布：,0,1),(/xexf为未知参数, . 现得样本值为0168, 130, 169, 143, 174, 198, 108, 212, 252,试估计未知参数 .解 由题意知, 总体 的均值为 即 因此, 如用样本均值 作为 的估计X,)(XEX量看起来是最自然的. 对给定的样本值计算得 ,7.12)513068(9x故 与 分别为 的估计量与估计值.X7.12无偏性例 2(E02) 设总体 , 是来自这一总体的样本 .)0(2NXnX,21(1) 证明 是 的无偏估计;
8、nii12(2) 求 ).(D解 (1) ，故 是 的无偏估计.)(1)(122iniiXDE 2n2(2) 因 而 且它们相互独立, 故依 分布niiniX121,),21(),0niNi 2定义)(21nXni nXDni21由此知 .211)(4221242 nXDnXDniinii 例 3 设 是总体 的一个简单随机样本, 求 使n,21 )(2NknijjiXk1|为 的无偏估计.解 由于 且相互独立, 于是当 时 ),(2Xi ji),20(NXjidxexXEji 2421|)(| .2022404 x因为当 时, 所以ji,0|)(|jiXE ,2)1()|(|)(1 nkXE
9、knijji故当 时, 有 为 的无偏估计.)1(2nknijji1|)(2例 4 (E03) 设 为来自总体 X 的样本, , 均为总体均值nX,21 ),21(ni的无偏估计量, 问哪一个估计量有效?)(XE解 由于 所以 为 和无偏估计量, ),2,1(),)( niEi),(,i 但 ,)(1)(2XDnDiii ),21()(nii故 较 更有效.X),(i例 5 设总体 X 在区间 上服从均匀分布, 是取自总体 X 的简单随机样0nX,21本, 求常数 使 均为 的无偏,1nii ,max1)( nnX ba)(21,nba估计, 并比较其有效性.解 已知 其分布函数为,0/)(其
10、 它xfX,10/,)()( xxdtfxF因 故,2/)(xE,12/)(XD.2/)()(1aXE当 时, 为 无偏估计, 且a,1 ).3/()12/(4)()2()1 nD又 ,0/)()(其 它xnxfxFnf所以 ,11)( 00 nxndXEn ,2)(012ndxXEn,)(2)(Dn故 当 时, 即 为 的无偏估计, ,1)()(2bXEnn1,)(2E)(21nX且 22)(2 )()( bn 3)(1Dn所以 比 更有效.21例 6 设分别自总体 和 中抽取容量为 的两独立样本.其样本方),(21N),(221,n差分别为 , 试证, 对于任意常数 都是 的无偏估计, 并
11、确21S ,1bSaZba定常数 使 达到最小.ba,)(ZD解 由第 5 章第三节的定理 2, 知,21E,2),1(/)(nSn)1(/22nS且相互独立, 所以 ,/241D,/)(2D故当 时, 即 是 的无偏估计. 由 相互独立, ba ,)()(SbEaZEZ221S及 )()21S421)1()/(n 4212)/()/( nana令 得驻点 ,02142nadaZD ,21又 知该点为极小值点, 所以, 当 0122)(142 ndaZD ,21na时, 统计量 具有最小方差.21nb 22121 )()( wdefSnSZ(注: 此例结果表明, 第 5 章第三节定理 4 中的
12、统计量 是方差 的最佳无偏估计).2w2相合性例 7 (E04) 设 是取自总体 X 的样本, 且 存在, 为正整数, 则nX,1 )(kXE为 的相合估计量.nikiX1)(kE证 事实上, 对指定的 , 令k,XY,ii nikniXY11,由大数定理知 从而 是 的相合估计量.),()limknEnik1)(kE作为特例, 样本均值 是总体均值 的相合估计量.X)(X例 8 (E05) 设总体 , 为其样本. 试证样本方差 是 的相合估2Nn,1 2S计量.证 由本节定理 1, 又由第 5 章第三节定理 2, 知 从,)(2SE ),1()1(2nn而 )1(2)1(nSnD1)(2nD故由切比雪夫不等式推得, 对任意 ,0|)(|022SPSEP )1(2)(142nSD当 时, 上式左、右端均趋于 0, 根据相合性定义可知 是 的相合估计量.n课堂练习1. 设总体 X 的 k 阶矩 存在, 又设 是 X 的一个样本. 试)1(kXEknX,21证明不论总体服从什么分布, k 阶样本矩 是 k 阶总体矩 的无偏估计量.niiAk
