1、概率论与数理统计,二、无偏估计,第二节 估计量的评价标准,三、最小方差无偏估计,四、有效估计,五、相合估计(一致估计),一、问题的提出,一、问题的提出,究竟采用哪一个估计量更好呢？这就,个数字特征出发，引入无偏估计，最小方,对于总体分布中的同一个未知参数,若采用不同的估计方法，可能得到不同的,产生了如何评价与比较估计量的好坏的问,题，我们从估计量的数学期望及方差这两,差无偏估计，有效估计和相合估计等概念。,二、无偏性,设 是参数 的一个,估计量，如果,，满足关系式,则称 是 的渐近无偏估计量.,估计量 如果不是无偏估计量, 就称这个估,计量是有偏的，称 为估计量 的偏差 ., ,估计，修正样本
2、方差 是 无偏估计 .,例1,设总体 的一阶和二阶矩存在，分布是任,意的，记 ， ，则样本均值,是 的无偏估计，样本方差 是 的渐近无偏,证,故 是 的渐近无偏估计.,例2,设总体 服从区间 上的均匀分布,是总体 的一个样本 .,试证：参数 是矩估计量 , 是 的无偏,的渐近无偏估计.,证,故 的矩估计 是无偏估计量.,所以,但是,即 是 的渐近无偏估计量.,但只要修正为,那么 也是 的无偏估计量.,1一个未知参数可能有不止一个无偏估计量 .,都是无偏估计量.,2有时一个参数的无偏估计可能不存在.,例如，设总体 则 | | 就没有无偏,估计. 其中 .,注,3有时无偏估计可能明显不合理.,数值
3、时，估计值为负数. 用一个负数估计 ，,明显不合理 .,三、最小方差无偏估计,定义6.3,如果存在 一个无偏估计量 ,使对 的任意无偏,估计量 ,都有,则称 是 的最小方差无偏估计(量).,缩写为MVUE.,例3,设总体 服从区间 上的均匀分布,解,显然当 时,即 比 有效.,最小方差无偏估计是一种最优估计 . 对于,最小方差无偏估计，一个自然的问题是：无偏,估计的方差是否可以任意小？,那么它的下界是什么？,罗-克拉美(Rao-Cramer)不等式回答了这个问题.,如果不可以任意小 ,定理6.1,(Rao- Cramer不等式)设 是实数轴上的,一个开区间,总体 的分布密度为 , ,是来自总体
4、 的一个样本,是参数 的一个无偏估计量,且满足条件:,(2) 存在且对中一切有 :,其中 ;,对一切 ,有,上式的右端项称为罗-克拉美下界， 称为,Fisher信息量.,可证明 的另一表达式为,对离散总体情形，设总体 的分布律为,且满足于类似上述定理的条件，则罗-克拉美不等,式成立的条件的估计称为正规估计.,若 为正规估计且 达到罗-克拉美下界，即,则必为 的最小方差无偏估计.,设 是来自泊松分布,的一个样本，试证 是 的最小,方差无偏估计.,证,的分布律为,例4,因此,故有,即 的方差达到了罗-克拉美下界, 所以 是,的最小方差无偏估计.,设总体 的分布密度为,是 的最小方差无偏估计.,证明
5、,证,例5,故,而,所以,即 的方差达到罗-克拉美下界，所以 是,的最小方差无偏估计.,定义6.4,设 是 的任一无偏估计量，称,为 估计量的效率 .,显然 的任一无偏估计量的效率满足,四、 有效估计,如果 的无偏估计量 的效率,则称 为 的有效估计(量).,则称 为 的渐近有效估计(量).,如果,差无偏估计，但反之则不一定成立.,定义6.5,设 是来自正态总体,的一个样本，证明 是 的有效估计量； 是,的渐近有效估计量.,证,例6,所以,而,故有,即 是 的有效估计.,由于,则,又由于 ，由 分布性质得,所以,是 的渐近有效估计量.,注,不是 的有效估计，但可以证明 ,是 的最小方差无偏估计
6、 .,设总体 , 是来自,总体 的一个样本，证明 是 的有效,估计量.,证,总体 的分布律为：,例7,所以,又,所以,即 是的 有效估计.,例8,量哪一个最有效?,解,注,可用求条件极值的拉格朗日乘数法证明,的估计序列，如果 依概率收敛于 ，即对,任意 , 有：,或,则称 是 的相合估计(或一致估计).,五、相合估计(一致估计),证明,由于,定理6.2,令 , 由定理的假设得,即 是 的相合估计,均值 的相合估计.,若总体 的 和 都存在 , 则 是总体,证,因为,故 是总体均值 的相合估计.,一般样本的 阶原点矩 是总体 阶,原点矩的相合估计. 矩估计往往是相合估计.,例9,估计量的评选的四个标准，但要求一下三个标准,无偏性,有效性,相合性,相合性是对估计量的一个基本要求, 不具备,由最大似然估计法得到的估计量, 在一定条,相合性的估计量是不予以考虑的.,有效性这两个标准.,件下也具有相合性.估计量的相合性只有当样本,容量相当大时,才能显示出优越性, 这在实际中,往往难以做到,因此,在工程中往往使用无偏性和,内容小结,再见,为D(X)的无偏估计.,备用题 例2-1,解,依题意，,解,例5-1,设总体 的二阶矩存在，,是来自总体 X 的一个样本 ， .,试证 是总体均值 的相合估计.,证,因为,例9-1,故 是 总体均值的相合估计.,
