1、贝叶斯估计的一般概念 先验信息与估计 后验分布与估计1. 先验信息与估计最大似然估计对 被 估计量未做任何假定，实际上也就是假定未知常数 的取值范围为 - 。这样的估计称为非贝叶斯估计。如果 待 估计量 是 一 个随机变量， 已知()p 先验 信 息利用先验信息的估计称为贝叶斯估计。把先验信息引入到估计，能改善估计的精度。将原有的假定 用 代替。 A ( , )A U A A 00例 1：考虑高斯白噪声中未知常数的估计问题， , , , .,iiz A w i N 0 1 1这种情况下，最大似然估计仍然是样本均值，对于 A的某个特定样本来说， 是 有效估计量，估计的方差 最小。A0A0A不可能
2、的值的 PDFAA加入先验信息可以使估计做到更好 ，考虑一个截尾的样本均值：A z AA z A z AA z A 0000000A 0的 PDFAA 0P z A 0P z A 00 0000( ) P r ( )( ) ( ) ( ) P r ( )AAp x z A x Ap x u x A u x Az A x A x和 的均方误差的比较：A0000000022 2 2 2 2 2 002( ) ( ) ( )( ) ( ) ( ) ( ) ( ) ( )( ) ( ) ( ) ( ) ( ) ( )( ) ( ) ( )AAAA A AAAAAA A AAAAM se A x A p x dxx A p x dx x A p x dx x A p x dxA A p x dx x A p x dx A A p x dxM se A x A p x dx 0 0 0 0 0 0()P r ( ) ( ) ( ) ( ) P r ( )AApxz A x A p x u x A u x A z A x A 00020020 0 020020( ) P r ( )( ) P r ( )( ) P r( ) ( )AAAAx A z A x A dxA A z A x A dxA A z AA A p x dx
