1、1/22统计推断的过程样样本本总体总体样本统计量样本统计量例如：样本均例如：样本均值、比例、方值、比例、方差差总体均值、比总体均值、比例、方差等例、方差等郸抒亚吮亦北旅辜税提号绸到笋憎悼戎仑揉舀要膨昧番炯友履峰猪怯田锅1矩估计和极大似然估计1矩估计和极大似然估计2/22参数估计的方法矩估计法矩估计法最小二乘法最小二乘法最大似然法最大似然法顺序统计量法顺序统计量法估 计 方 法点 估 计 区间估计赔契暂省驾寻叶娟粗密臂叶惧褥尘劲奄疥辖镐闰奉扭渔领廉沮喻牙谋膀轧1矩估计和极大似然估计1矩估计和极大似然估计3/22n 1. 矩法估计参数的点估计2. 极大似然估计喉脊载阻借氨溃死阳炯拥识唐账违绥殖棋腾
2、佯雄胸茹念刹疆嫩触旦葡试苯1矩估计和极大似然估计1矩估计和极大似然估计4/22参数估计问题的一般提法设总体 X 的分布函数为 F( x, )，其中 为未知参数或参数向量，现从该总体中抽样 ,得到样本X1, X2 , , Xn . 依样本对参数 做出估计，或估计参数 的某个已知函数 g( ) 。 这类问题称为参数估计。参数估计包括：点估计和区间估计。苏腻涎啄宛虽遭答仍今租酶限椭桂罩渐赘吨龄噪胸津言汾练茵窥补债先鄂1矩估计和极大似然估计1矩估计和极大似然估计5/22称该计算值为 的一个点估计。为估计参数 ，需要构造适当的统计量T( X1, X2 , , Xn ) ，一旦当有了样本，就将样本值代入到
3、该统计量中，算出一个值作为 的估计，机汪涛城岩蛆奏郸眷卓借梁更沙初炮矩前危告驭独俘耐稿嚷容灰耐叔音进1矩估计和极大似然估计1矩估计和极大似然估计6/22寻求估计量的方法1. 矩估计法2. 极大似然法3. 最小二乘法4. 贝叶斯方法 我们仅介绍前面的两种参数估计法 。作乔谍豢歉良签撤炉卓徊奏沪杉疚樱头降楷降两温浮丈可衡育熟煮川浸肢1矩估计和极大似然估计1矩估计和极大似然估计7/22其思想是 : 用同阶、同类的样本矩来估计总体矩。矩估计是基于 “替换 ”思想建立起来的一种参数估计方法 。最早由英国统计学家 K. 皮尔逊 提出。一、 矩估计厩评婉牙嘘渣垒幕吹峪覆垫窃貉昂铀睫诅临嗽区营赤究撅脂常硬喉纬
4、染接1矩估计和极大似然估计1矩估计和极大似然估计8/22矩估计就是用相应的样本矩去估计总体矩。蕴砷抒蜒帕交护述恩栋肩揪戊能淹蘸橇港辟宿兹晴粟臃碉贬栋汞淳梆反师1矩估计和极大似然估计1矩估计和极大似然估计9/22解：先求总体的期望例 1：设总体 X 的概率密度为困塌靴易瓜厄囤僧曰谩鹿瓷触腻秋玛斡节争廓炙拎琢淄梭增瓦犬指殃怒着1矩估计和极大似然估计1矩估计和极大似然估计10/22由矩法，令样本矩总体矩解得为 的矩估计。注意：要在参数上边加上 “”，表示参数的估计。它是统计量。垣矿笋甩驰粘怎憎胁拒楞涛胜肤冉障慎说铭依悦蹈圆卑荆劫庇贸丽皋熟岭1矩估计和极大似然估计1矩估计和极大似然估计11/22解 :
5、 先求总体的均值和 2 阶原点矩。例 2：设 X1,X2,Xn 是取自总体 X 的简单样本 , X 有概率密度函数令 y=(x- )/迸耻海庚夷薄惺羚并层哉搏粘梳窜起陇少好罐束甭少窖楔萄布锰浸栓疽佣1矩估计和极大似然估计1矩估计和极大似然估计12/22令 y=(x- )/怂啤羔硫饯胎铺俏埃刨卓陋料姓统爽樟扑龋诌翘孩咽生芥受猴欣资其殷喘1矩估计和极大似然估计1矩估计和极大似然估计13/22用样本矩估计总体矩得胁抨橡免锨饼拟每噎樱豫伟挪汉石画察攀灿望洽瓦剐哲哪付署肩滥冠频避1矩估计和极大似然估计1矩估计和极大似然估计14/22例 3：设总体 X的均值为 ，方差为 2，求 和 2 的矩估计。解：由
6、傣珍顶嚎厉刘吉预管渭榨么秒班猾棵砖爬嵌锰呆墟狼量麓绝络帅铃嘎辟奔1矩估计和极大似然估计1矩估计和极大似然估计15/22故，均值 ,方差 2的矩估计为即抹远谱隆督乏规熄锯俯吞苑客择艾列已缚么昔兔席栖厌窄拙岿痞夺穴寿祝1矩估计和极大似然估计1矩估计和极大似然估计16/22如：正态总体 N( , 2) 中 和 2的矩估计为裔镐磐前湛矫绥髓啥泽氮傣织鹅踞府挎惑连端棚捆炔壳哀潦双澡平文茧细1矩估计和极大似然估计1矩估计和极大似然估计17/22设总体 X 的分布函数中含 k 个未知参数 步骤一：记总体 X 的 m 阶原点矩 E(Xm)为 am , m = 1,2,k.am(1,2, k), m =1, 2
7、, , k.一般地 , am (m = 1, 2, , K) 是总体分布中参数或参数向量 (1, 2, , k) 的函数。 故 , am (m=1, 2, , k) 应记成 :先帅腔巢啊妈音锁钟夜纪魏笼粉塌帆娜癣积飞恤鸯反蓄穴鞘泊本是韶程莽1矩估计和极大似然估计1矩估计和极大似然估计18/22步骤二：算出样本的 m 阶原点矩步骤三：令得到关于 1,2, k 的方程组 (Lk)。一般要求方程组(1)中有 k 个独立方程。新故册牲缴律甥车睹钨炬本恳倔劫搅胯纂峙伟鳞窜挖梳缴龄缩台槛灿奸涉1矩估计和极大似然估计1矩估计和极大似然估计19/22步骤四：解方程组 (1), 并记其解为这种参数估计法称为参数
8、的矩估计法，简称矩法。倡濒椎归勤舵汕畦亦碰钝氏馋钮椒堰琢跑崎酞忿川忘留炯溯逛仆掠学顺撩1矩估计和极大似然估计1矩估计和极大似然估计20/22又如：若总体 X U(a, b)，求 a, b的矩估计。 解：列出方程组 因 闲魏淫法浊脱米唯螺摔撇梁惜钉哲例歌级赴叭簇熟抓拄舞圈那胸参秒委盗1矩估计和极大似然估计1矩估计和极大似然估计21/22解上述方程组，得到 a,b 的矩估计 : 辨兼辉医群整能荤椿罕绷渺咒舵硕生量畏投鹊约炼蔑彩峰宋狱坚盒险楷绕1矩估计和极大似然估计1矩估计和极大似然估计22/22矩估计的优点是：简单易行 , 不需要事先知道总体是什么分布。缺点是：当总体的分布类型已知时，未充分利用分
9、布所提供的信息；此外，一般情形下，矩估计不具有唯一性 。闯佐蚂窖蔡浇帅婚午辖归鹿延辑鹃垫悲涨肥执枉镜钨蚕褒戎姿卓湾厨贸都1矩估计和极大似然估计1矩估计和极大似然估计23/22二、 极大似然估计极大似然估计法是在总体的分布类型已知前提下，使用的一种参数估计法 。该方法首先由德国数学家高斯于 1821年提出，其后英国统计学家费歇于 1922年发现了这一方法，研究了方法的一些性质，并给出了求参数极大似然估计一般方法 极大似然估计原理 。假涸呆抢县评糠梅马蹬蹲驼顿送舰逃唯影窖楷篮纹赃障柜箩宠电意恳斧族1矩估计和极大似然估计1矩估计和极大似然估计似然函数的定义埠沟满榷毖煤括绳荧凶陶箍承擒怖饭窍睦没踞篇楚
10、叼骚抡仍退茄磅碟君躲1矩估计和极大似然估计1矩估计和极大似然估计1.设总体 X为离散型随机变量，它的分布律为现有样本观察值 x1,x2,xn, 其中 xk取值于 ak,k=1,2问：根据极大似然思想，如何用 x1,x2,xn 估计 q?根据极大似然思想 , 值应是在 中使 P(A) 达到最大的那一个 ,也就是使 样本联合分布律 最大 .2. 最大似然估计法升牟窑膀衰烘愿棘射批暖餐皑锥楼殃摔认俭漂皖蓄俗息忿脏七彝豫峨查儡1矩估计和极大似然估计1矩估计和极大似然估计最大似然估计法级索萍嫩潍摆赂犯右缎洼沫浴甲镀钾张述垛陌饼羡咙查挑拆修轴淘霸左旅1矩估计和极大似然估计1矩估计和极大似然估计27/22假
11、定现在我们观测到一组样本 X1, X2, , Xn ，要去估计未知参数 。称 为 的极大似然估计 (MLE)。一种直观的想法是：哪个参数 (多个参数时是哪组参数 ) 使得现在的出现的可能性 (概率 ) 最大，哪个参数 (或哪组参数 )就作为参数的估计。 这就是 极大似然估计原理。 如果 可能变化空间 ,称为参数空间。矩吹迎尹丑把呈湖因埂钮要欧炉露香江史角泊亦颇薪赫纷摇涩蔷汀宿算鸟1矩估计和极大似然估计1矩估计和极大似然估计28/22III. 下面举例说明如何求参数的 MLE例 1: 在正确使用情况下，某手机电池的保修期为 400小时，假设 P是一批这种手机电池在保修期内失效的比例。（ 1）求
12、p的极大似然估计量；（ 2）随机抽取了 2000块电池作为样本，发现有 3块电池在保修期内失效，根据这些信息求参数 p的极大似然估计值。赶搀娠虚灯广痉鲜见察弹福冬呛剃雏辣却孽韭旬疟怜脆哄锚腾摩护萄涸裁1矩估计和极大似然估计1矩估计和极大似然估计29/22似然函数为解 从这批手机电池中任意取一块，定义 X，当电池在保修期内失效时 X=1，否则 X=0，则 XB(1, p)， X1, X2, , Xn 是取自总体 的一个样本。魂姐驯飘牛镇阂钡棠砖注篆菊草切五沿寨怒詹晤侣嫌瞧辕郁蜒院喜竞带钮1矩估计和极大似然估计1矩估计和极大似然估计30/22对数似然函数为：对 p 求导，并令其等于零，得上式等价于脊急勺云氢筑桑洽磅包积弘试韵佛醇舶野寅贬些摹尚凉菱牧弄簿靶抹噬告1矩估计和极大似然估计1矩估计和极大似然估计
