1、第三章 自适应滤波器,自适应滤波器：最小均方误差为准则 自动调节本身的 不必预先知道信号和噪声的统计特性 （自相关）先验知识 自相关慢变能自动适应,3.1 自适应滤波原理,从维纳滤波器看 自适应滤波器则能自动调节它的 值以满足上述小均方误差准则。 由参数可调的数字滤波器（或为自适应处理器）和自适应算法两部分组成：,可以是单输入信号，也可以多输入信号，其余是时间序列在不同的场合这些信号代表着不同的具体内容。几种常见的例子：1，自适应预测器可用于语言编码，谱估计，谱线增强，信号自化等2，系统自适应建模（正向建模，逆向建模）用于自适应检测，语音分析，信道均衡，解卷积，数字的设计3，自适应抵消器4，自
2、适应阵列信号处理系统,典型的多输入干扰抵滑器。信号的接入方法不同，得到各种不同的用途。设计自适应滤波器时，应首先确定滤波器的结构。（FIR IIR或格型结构）然后设计自适应算法。以调整滤波器参数。其目标是使某一特定的代价函数最小化。本章以输出的均方误差作为代价函数。,3.2 自适应线性组合器,自适应参数是一种可调的FIR。递归结构形式，分析实现简单。早在大多数自适应信号处理中得到广泛应用。权矢量用矢量表示：,在自适应中，由 用,输出：用矩阵表示：使,是一种横向结构的自适应滤波器。,来调节权矢量。,对于 参考响应选什么信号，要根据不同应用用途来选择。,3.3均方误差性能曲面,由令：,简写从式中看
3、出均方误差 是权矢量 的二次函数，若展开上式只有 各分量的一次和二次项存在。因此， 的函数图形是 维空间中一个凹的超抛物体曲面。有唯一的极小点 。 该曲面称为均方误差性能曲面，简称性能曲面。自适应过程是自动调整权系数，使均方误差达到最小值 的过程，这相当于沿性能曲面向下搜索最低点。 最常用的搜索方法是梯度法。因此，性能曲面的梯度是一个很重要的概念。 均方误差性能曲面的梯度用 表示，定义为： 对各权矢量进行偏微分,最小均方误差对应的权矢量称为最佳权矢量或维纳权矢量。用 表示。在性能曲面上，该点梯度等于零。这正是对应维纳-霍夫方程的矩阵形式。得最小均方误差：由于 是 的二次型。且在 处存在唯一最小
4、值。故 可写成下列标准形式。,定义：权偏移矢量该式表明：当权矢量 相对于最佳值 偏离了一个数值： 时均方误差将比最小均方误差 大一个数值 ,要使 为非负，显然要求显然R应该是正定的或半正定的，半正定是指对于某些有限个V或所有V使 的情况，实际应用中R常满足这一要求。计算性能曲面的梯度得,3.5 最陡下降法原理,自适应滤波器原理 的自适应过程就是要从性能曲面上某点（初始点）开始。沿着曲面向下搜索最低点的过程。实际目的就是要寻求按 可求得唯一的 ，但需要预先知道相关矩阵P和R。当P和R不能预先求得时，就只能直接用数值计算的方法。当N大时，遇到计算上的严重困难。更具有使用价值的递推法：widrow-
5、Hoff LMS算法，是他们两人与1959年提出：求最佳权矢量的一个简单,而有效的递推方法。牛顿法是一种方法，在数学上有重要意义但实现非常困难，而最陡下降法在工程上比较容易实现，有很大的实用价值。此法不需要求相关矩阵，也不涉及矩阵求逆，就是沿性能曲面最陡方向向下搜索曲面的最低点，根据已知测量数据曲面的最陡下降方向是曲面梯度的负方向，这是一个迭代搜索过程。按此方法：从初始点开始 沿负梯度方向等价于 等于初始值 加上一个正比于负梯度的增量。用类似方法一直搜索到 ，所以最陡下降法迭代计算权矢量的公式为 是控制搜索步长的参数-称为自适应增益常数或称为收敛因子（常数）。,1.物理意义 是w的二次方程，
6、随w的变化关系可画成一个碗形的“曲面”。自适应过程正是连续的调节w寻找“碗”底。为了简单，设w是一维的。成了一个抛物线,凹抛物线底部这点正是我们要寻找的,由 得到的若 在 的左边为使下一个w值 更接近 ，应增一个 （ ）,若在 的右边，为使下一个w 值 ，应减去一个 （ ）合并,因为某点的梯度方向是代表该点变化率最大的方向，即是 下降最快的方向。因此称为最陡下降法。到达最小点时 这时2. 求梯度由于得代入得,令即 （正交性原理）得出 及与维纳滤波理论一致。这个方法求 比较简单和有效，不用预先求得相关矩阵的逆。关键是如何实时地求得 。在实际中为了便于实时实现，取单个误差样本的平方 的梯度的估计。
7、用 估计 则有：,有：即 的期望值等于其真值 故这种对 的估计是无偏估计。可以用 代替期望值得到：上式这种算法：即称为widrow-hoff LMS算法-自适应的最小均方算法。这种算法对于每一个输入样本，只需按式进行二个乘法与二个加法运算。因此该算法易于用实时系统实现。 下一个时刻的权矢量 等于当前权矢量 加上一个修正量。该修正量等于误差信号 的加权值。加权,系数为 它正比与当前的输入信号。注意的是：对权矢量的所有分量来说，误差信号 是相同的。具有两个权系数的自适应线性组合器采用LMS算法的计算流程图。（见画图）,3.6 值的取值范围,当 值的选择在一定范围时，widrow-Hoff LMS算
8、法将收敛于 。证明了这一点，也就证明了LMS算法的有效性。 是自相关矩阵R的最大特征值。可通过正交变换化成标准型,Q是R的正交矩阵 是由R的特征值组成的对角阵。由于自相关矩阵R的本征值（包括 ）通常无法预知， 值由 不现实，然而我们只矩阵R的迹 。等于R对角线上的元素之和，因此由于正定矩阵的各 值均大于零，故,所以收敛的充分条件可以写成 =信号的总输入功率，一般是已知的，因而可按上式选取 值。所以当 时这种递推法最终将使W的值收敛于维纳权矢量1. 取得愈大，收敛愈快。2. 取得过大 ，W不能收敛于,3.7 LMS算法的动态特性学习曲线及收敛速度,要经过一个迭代过程才能到达 ,也就是说 需要一个
9、过程 。 迭代次数关系曲线称为学习曲线。任意选取一个初始劝矢量,3.10 自适应的递归最小二乘方（RLS）算法,1.特征：FIR维纳滤波器的一种时间递归算法 严格以最小二乘方准则为依据的算法 收敛速度快 应用于：快速信道均衡 实时系统辨识 时间序列分析 缺点：每次迭代计算量大，N阶的FIR计算量 曾经一度受到限制，近来有大的发展。2.RLS算法：用三乘方的时间平均的最小化准则取代最,小均方准则，并按时间进行计算。具体说：是要对初始时刻到当前时刻所有误差的平方进行平均并使其最小化，再按照这一准则确定FIR滤波器的权系数矢量W。即其中： 期望响应 是N阶FIR的输出响应对于非平稳输入信号，为了能很
10、好的进行跟踪，常引入一个指数加权因子对式进行修正：,遗忘因子（ 的正数）旧数据的权值按指数规律衰减，越旧对 影响越小，忘性越大。求偏导这是最小二乘方准则所对应的正交方程。上式得：定义：,则标准方程可写为简化形式：该方程的解为：都与时间n有关，所以w是n的函数按最小二乘方准则得到的维纳解，其中的 与 起着自相关R和互相关P的作用。3.迭代算法将两式写成迭代形式,同理：由利用矩阵恒等式则上式可写成,将上两式代入并利用上式得到式中增益误差上式具有卡尔曼滤波器的形式。 是根据 及以前所有数据得到的最佳权值，根据它来预测 应该是合理的。可将增益公式写成,该式与LMS算法中的差别在于权矢量校正项中中的校正
11、因子 不同。 是自相关矩阵 的一种量度。因此， 的出现使得RLS算法具有快速收敛的性质。但是，矩阵迭代更新公式 需用数量级为 的运算量来完成，是主要负担。现将RLS算法步骤总结一下：（1）初始化 令 即用很大的数值（2）在时刻n已获得 和 ， 也已存储在滤波器的延时部件中。（3）利用 ， ， ，,(4)进入第n+1次迭代，转到（3）遗忘因子 的选取 的值对算法影响最大。算法的有效记忆长度用 来度量， 定义为 越小对应的 越小，意味着对信号的非平稳跟踪性能越好。 太小， 会小于信号的每个平稳的有效时间，不能充分利用所有已经获取的取样数据。结果，算出的 将会受到严重噪声影响。对平稳信号， 最佳值为
12、1。例子：,是一个零均值，方差为1的白噪声， 显然是由这个白噪声激励一个二阶自回归模型产生。这里：模型参数 权系数 逐渐收敛于-1.6的过渡过程曲线 LMS算法 权系数收敛后出现较大噪声。 在计算最佳数据时没有充分利用能够获得的全部取样数据。,3.11 IIR递推结构自适应滤波器的LMS算法,在一种实用场合，常为了提高精度，FIR自适应型的滤波器要求阶数很高。而用IIR递推结构通常只用低阶（二阶）就够了。 有些情况下必须用IIR递归结构。如：某些通信信道等效于FIR：在接收端则：为了补偿多径效应引起的失真，常设计一个 的自适应滤波器。,显然这是一个IIR自适应滤波器。克服第一缺点：限制参数取值范围 二 寻找好的自适应算法，搜索全向最低点。已证明：具有足够多零点和极点的自适应递归滤波器，其性能曲面可以是单模的，而不是多模的。 这意味着，增加权系数的个数能够移去性能曲面的局部极小值。设IIR滤波器差分方程为,可以是单输入的，也可以是多输入的。定义两个新矢量复合权矢量和复合数据矢量。于是差分方程可写成矢量形式误差：与FIR自适应线性组合器的误差公式的主要区别是 和 现在有不同的定义。,与FIR自适应的LMS算法类似。梯度估计为：令：,由差分方程知：,
