1、估值概述 1 估值的意义 随机变量的分布函数完全确定了它的统计特性，但是，基于这种统计特性的描述，我们依然无法预测某一次试验的观察结果确定地是什么。 如果想用某一个确定的值去作为观察结果的估计值， 可以 利用概率分布函数 去选择一个合理的值。 数学期望：统计平均值，无条件估值，统计误差为方差 估值： 利用已有的观测量的信息， 估计估计量的取值， 减小关于估计量的不确定性。 2 估值的应用 最基本的问题是利用对一个随机变量的观测对另一个随机变量进行估计 根据当前取值来预测下一个时刻取值的预测编码； 根据接收的信号序列来估计发送序列某个时刻发送值的均衡问题； 根据信号和噪声之和的序列来估计信号的噪
2、声抑制问题； 3 估值问题的研究内容与方法 估值研究的是统计意义上的估计问题。由于是对一个不确定量的估计，一定存在估计误差， 关键在于利用某种原则、 方法选择估计值， 使估计误差在某种意义下是最小的。 估值准则的选取：有实际意义，有用；并且是能够得到简单解的。 “估计的均方误差最小”的估计准则是应用最广的一种估计思想，简称 MS 估计，相应的估计误差简称 MMSE。 “输出信噪比最大”是雷达系统中最佳接收的工作原理。 在一定的估计准则下，有不同的解决具体估值问题的方法： 9 非线性估值 9 线性估值 9 维纳滤波 9 匹配滤波 9 递归线性均方估值 其中一个重要的问题就是确定估值参数 估值的评
3、估：分析估值误差 均方误差最小的最佳线性估计 估值问题 设 和 是两个随机矢量，两者存在联合分布，其中 是观察矢量，通过 对 进行估值，得到 符合某种准则的最佳估值 。 1 均方误差最小的估值问题 均方误差最小的估值问题 设 和 是两个随机矢量，两者存在联合分布，设 是观察矢量，通过 对 进行估值，求均方误差最小的估值。 YKY)( = /min/22EE ，其中12(, )nKkk k= ，为任意矢量。 均方误差最小估值的解：均方估值和条件均值的关系 Y/YK/Y/YK/YK/YK/YK/YK=+=+=+=+=+=/222222EEEEEEEEEEEEEEEEEE为了使均方误差最小， 应使
4、/K E= ，即： Y/Y = E)( 定理 设随机矢量),(21 n “=和),(21 m “=的联合概率密度函数是，),;,(2121 mnyyyxxxf “且0),(21myyyf “，则关于的最小均方误差估计为/ E=)(，它满足 22min() g()EE= 。 例： 设和服从二元高斯分布，求最佳估值 )( 解： ()2/222211(/ ) exp ( )2(1 )21fx y x yrr = () / ( )EY y =+ () /EEEY = ()222() ( / )( )EEy = =2 均方误差最小的线性估计 对于正态分布的随机变量， 关于的最小均方误差估计() /)(E
5、=是一个线性估计，对于非正态分布的随机变量，估计( ) /)(E=一般不是线性的。这时需要找到一个关于的线性函数作为最佳估计。 定义： 关于的 估计 bA)( +=，使得 22b)(A += EE 达到最小值，这时 bA)( +=称作为最佳线性估值。其中 是 n1 的矢量， 是m 1 的矢量， A 是 nm 的矩阵， b 是 n1 的矢量。 问题： 确定 A、 b 结论： AjjjbE E= ( )()1 Ajj = CC 即， CCCC11+=jjEEjj11EE = +CC CC 如果 ，Tm)(21 “= 均值为零，则有 1CCj=j方法： 1）极值分析法 求估值的均方误差 ( ) (
6、)22 /jjHTHjj j j j j j j j jEDCCCEEb =+ +AAA A AAj、 bj的取值应使估值的均方误差对 Aj、 bj的偏微商为零，从而确定 Aj、 bj； 2) 正交性原理 定理：满足正交性的线性估计（从正交性原理进行推导） 如果用复随机变量 1， 2， m 的线性组合11 2 2mmaa a =+“ 来估计复随机变量，其估计误差e = 。若 e 和 1， 2， m 正交，则此估计是最小均方误差线性估计。 利用 11 2 2 3 3( ) 0jmjEe E a a a a =+ =“ 注意：两种方法得到的结论一致，正交性原理的推导证明中，先假设 0EE=，进一步
7、的论述中说明了 0, 0EE 时，满足正交性原理的线性估计仍然是最小均方误差估计。 最佳线性估计的均方误差 根据正交性原理，均方误差最小的最佳线性估计的误差与观察量正交，从而与估计值正交： (0e )jjEE= = 则： 0( = )E 因此： 2 22 EEE= ， 21 CCC CE = 。 推论1 如果复随机变量和复随机变量 1， 2， 3， m 不相关，即相互正交，此时无法用复随机变量 1， 2， 3， m 对复随机变量进行估计。此时的最佳估计就是 0)(= 。 推论2 如果复随机变量和复随机变量 1， 2， 3， m 有相关性，进行估计，相应的均方误差就减少了， TEEE122CCC
8、C)()(e=。 减少量是T1CCC。 推论3 如果复随机变量 1， 2， 3， m彼此之间相互正交，有 ()1jjjjjjaCC= = CC 推论4 增加新的数据可以改善原有的估值，但是如果增加用来估值的数据 1+m， 2+m，与原来的估计误差 )(2211 mmaaae += “ 正交， 这时增加数据不能改善原来的估计。 3 典型估值问题举例 估值理论的应用 随机过程的估值 随机过程的预测 信号的统计插值和滤波 典型的例子 例 1，设有零均值实平稳随机过程 s(t)，已知 t 时刻的值，试估计 t+s 时刻的值。 例 2，设有零均值实平稳随机过程的信号 s(t)和零均值实平稳随机过程的噪声
9、 n(t)，它们是统计独立的随机过程，实际测到的是 x(t)=s(t)+n(t)，试根据 x(t)对 s(t)进行估值。 例 3，设有零均值实平稳随机过程的信号 s(t)，试根据 s(0)及 s(T)对 s(t)进行估值。 例 4，利用 t 时刻随机过程 s(t)的观察值和它的导数 s(t)观察值，对未来的 s(t+)，0，进行估值。 例 5，已知 t1、 t2两个时刻 t1t2，利用这两个随机过程 s(t)的观察值对未来的 s(t)，进行估值。 例 6，已知零均值实随机过程 s(t),利用 s(0)和 s(T)的观察值，对随机过程在【 0,T】区间的积分进行估计。求最佳估值。 假定研究的随机
10、过程是零均值实平稳的随机过程 例1 设有零均值实平稳随机过程 s(t)，已知 t 时刻的值，试估计 t+s 时刻的值。 解： 利用最佳线性估值原理， =1CCaTTG)()( tassts =+ ，且 )0(/)()()(/)()(ssssRRtstsEtstsEa =+= 相应的最小均方误差是， *22 EEE = )0(/)()0()()0()()()()()()()()()(22ssssssssssRRRaRRtstsaEtstsEtstastsEtstsE=+=+=+讨论 1：如果随机过程的相关函数是= eRss2)( = eRRassss)0(/)( ( )2221)()(=+ et
11、stsE 讨论 2：在上述条件下，估计误差正交于 tuus 0，进行估值。 解： 利用最佳线性估值原理， =1CCaTTG()()0()(,)0()()()()()()0(00)0()()()()()0()0()0()0()()()(11ssssssssssssssssssssssssssssRRbRRatsbtaststsRRRRtstsRRRRRRts=+=+相应的最小均方误差是， *22 EEE = )()()0()()()()()()()()()(2ssssssRbaRRtstsbtastsEtststsEtstsE+=+=+=+例5 已知 t1、 t2两个时刻 t1t2，利用这两个随
12、机过程 s(t)的观察值对未来的 s(t)，进行估值。 解： 利用最佳线性估值原理， =1CCaTTG()()0()0()()()()()0()()()0()()()()()()0()()()0()()()(212222112122212121211212121ttRRRttRttRttRbttRRttRttRRttRattbsttaststsRttRttRRttRttRtsssssssssssssssssssssssssssssssssssss+=+=相应的最小均方误差是， )()()0()()()()()()()()()()()(21212ttbRttaRRtstbststaststsEt
13、ststsEtstsEssssss=讨论 1，若 t2时刻的信息不能改进对 s(t)的估计，即 b 0， )0()()()()0()()()(,021122211ssssssssssssssssRttRttRttRRttRttRttRb=相应的相关函数是负指数形式。 例6 已知零均值实随机过程 s(t),利用 s(0)和 s(T)的观察值，对随机过程在【 0,T】区间的积分进行估计。求最佳估值。 。 解： 利用最佳线性估值原理， =1CCaTTG定义=Tduus0)( =TssTssTssTTssTduuRduuTRduTuRTsduusETsEduuRsduusEsE000000)()()()()()()()0()()0(记作 =TssduuRTsEsE0)()()0( 最佳估值是， ()()() ()()()()()()()0()()0()()()0(/)()0()()0()()0(/)()0()0()()()()0()0()()0()0()()()0()()0(022221TssTRRduuRTRRTssTRRTRRTsRsTRTsTRsRTssRTRTRRTsEsEssssTssssssssssssssssssssssTssssssss+=+=+= =
