1、2.6 线性最小均方误差估计linear minimum mean square error estimation,一、线性最小均方误差估计准则,放宽了对待估计量先验知识的要求。,设第k次观测为：,为已知的观测系数， 为观测噪声，估计量,标量,单参量情况,使估计的均方误差,最小化的估计叫最小均方误差估计。记为：,多参量情况,观测模型：,N维观测矢量,NM维系数矩阵,M维待估计矢量,N维观测噪声矢量,M维列矢量,N维列矢量,MN维,确定 使均方误差,最小化的估计叫最小均方误差估计。记为：,二、线性最小均方误差估计,已知 的前二阶矩：,使 最小化的估计：,矩阵函数对矩阵求导公式,解得：,估计中只用
2、到二阶矩。,三、线性最小均方误差估计的性质,（1）估计矢量是观测矢量的线性函数； （2）估计矢量是无偏的； （3）估计误差矢量与观测矢量正交，即：,（4）估计矢量均方误差阵的最小性 线性最小均方误差估计矢量在线性估计中有最小的均方误差，而且均方误差阵也具有最小性。,设 是 的任意线性估计，则均方误差阵为：,上式中第一项、第二项是非负定的，第三项是,四、线性最小均方误差估计应用,信道均衡,数字通信系统中，除了信道的噪声干扰之外，另一个重要的干扰就是码间干扰。它与加性的噪声干扰不同，是一种乘性的干扰。造成码间干扰的原因有很多，实际上，只要传输信道的频带是有限的，就会造成一定的码间干扰。（ISI-
3、Inter-Symbol Interference ）,通常h1(n)是一个横向滤波器，即,产生的误差为：,是理想输出信号，,因此，在信道均衡中，就是根据某种准则确定横向滤波器的权系数，通常采用的准则为最小均方误差准则。,2.7 最小二乘估计,该方法不需要知道任何先验知识，仅需要知道被估计量的观测模型。,一、最小二乘估计方法,假设待估计量 的信号模型 观测模型：,多参量情况：,最小化的估计：,二、线性最小二乘估计,线性观测模型：,N1维,NM维,M1维,N1维,其中,因为,是非负定的，所以 是 的最小值。,估计量的性质： （1）估计矢量是观测矢量的线性函数； （2）如果 ，则估计是无偏的； （3）如果 为协方差阵，则LS估计的均方误差阵：,三、线性加权最小二乘估计,令,线性加权最小二乘估计就是使,达最小的估计。,N*N对称 正定矩阵,估计量的性质： （1）估计矢量是观测矢量的线性函数； （2）如果 ，则估计是无偏的； （3）如果 为协方差阵，则LS估计的均方误差阵：,如何选取权矩阵，使均方误差为最？可以证明，当,均方误差阵取最小值，,四、非线性最小二乘估计,的信号模型 是非线性的，,最小化的问题十分困难。,（1）参量变换法 （2）参量分离法,五、最小二乘估计应用举例（1）光条中心高斯曲线拟合；（2）图像畸变的多项式修正,（u，v）校准后的坐标，（x，y）校准前的坐标。,
