1、系统辨识复习提纲1什么是系统？什么是系统辨识？系统泛指由一群有关联的个体组成，根据预先编排好的规则工作，能完成个别元 件不能单独完成的工作的群体。即一群有相互关联的个体组成的集合称为系统。系统辩识就是：利用对未知系统的试验数据或在线运行数据（输入/输出数据）以及原理和原则建立系统的（数学）模型的科学。2什么是宽平稳随机过程，其遍历定理内容是什么？答：在数学中，平稳随机过程或者严平稳随机过程，又称狭义平稳过程，是在固定时间和位置的概率分布与所有时间和位置的概率分布相同的随机过程：即随机过程的统计特性不随时间的推移而变化。这样，数学期望和方差这些参数也不随时间和位置变化。如果平稳随机过程 de 各
2、集和平均值等于相对应的时间平均值 tx= x， =Rx ,式中 伪随机过程 的时间平均值；xtx为与以为 概率密度有关的数字特征量集合均值；Rx 为自相关函数。则称 是各态遍历的平稳随机过程。tx3简述噪声模型及其分类。P130噪声模型： )()(11zCDH分类：1) 自回归模型，简称 AR 模型，其模型结构为 )()(1kvezC2) 平均滑动模型，简称 MA 模型，其模型结构为 1D3)自回归平均滑动模型，简称 ARMA 模型，其模型结构为)()(11kvzDkezC4白噪声与有色噪声的区别是什么？答：辨识所用的数据通常含有噪声。如果这种噪声相关性较弱或者强度很小，则可近似将其视为白噪声
3、。白噪声过程是一种最简单的随机过程。严格地说，它是一种均值为零、谱密度为非零常数的平稳随机过程，或者说它是由一系列不相关的随机变量组成的一种理想化随机过程。白噪声过程没有“记忆性” ，也就是说 t 时刻的数值与 t 时刻以前的过去值无关，也不影响 t 时刻以后的将来值。工程实际中数据所含的噪声往往是有色噪声。所谓有色噪声指的是噪声序列中每一时刻的噪声和另一时刻的噪声是相关的。5设一个随机序列 的均值是参数 的线性函数),21(),Lkz()zkEh其最小二乘估计为： LLzH1WLS试给出其递推形式的详细推导过程，要求其最终其递推矩阵为保对称的。P64在 阶“持续激励”输入信号的作用下，加权最
4、小二乘法的解为2n LLzH1WLS)(ii ii11 )()hh记 k 时刻的参数估计值为kiki izi11 )()()()( hh令 ，并利用kihiR1)()()(，Rh()()kiziik11则有 )()(1() )1(Tkk kzhR又设 ，可导出如下的加权最小二乘估计递推算法，记作R()(k1WRLS(Weighted Recursive Least Squares algorithm)， )1()()1)() )( kkkzRhR置 ，并利用矩1111 )()( kiiki hPhP阵反演公式，1111 )()( ACBCACBA令增益矩阵为： )(kkhPK那么算法将演变成下
5、面所示的另一种递推算法形式)1()()( )(11)()()kk kzPhKPhI 6简述在最小二乘估计问题中引入加权因子的作用。P587假如给出在不同温度下测量同一热敏电阻的阻值，根据测量值确定该电阻的数学模型，并求出当温度在 时的电阻值。t（1）利用头两个数据给出 010()()TLPHz（2）写出最小二乘的递推公式；（3）计算 (),()Tkabk并要求在计算过程中给出矩阵 的值。PK老师给过示例7 题：表 1 中是在不同温度下测量同一热敏电阻的阻值，根据测量值确定该电阻的数学模型，并求出当温度在 时的电阻值。C70要求用递推最小二乘求解：（a）设观测模型为利用头两个数据给出0LTzHP
6、0)(0)1（b）写出最小二乘的递推公式；（c）利用 Matlab 计算 Tkabk)(,)(表 1 热 敏 电 阻 的 测 量 值 t)(C 20.5 26 32.7 40 51 61 73 80 8 95.7 R 765 790 826 850 873 910 942 980 10 1032 ii vbtay 并画出相应的图形。解：首先写成 abthabtkz kk 1)(12hLHz， ，TLLz,.1 1.21Lttab的形式。利用头两个数据给出最小二乘的初值： ,1260.5LH79065Lz这样可以算得0LTzPH0)(0)1求得671.82 45)0( 3.9 .- -0LTzH
7、P注意对于手工计算，可以直接用 2 阶矩阵求逆公式acbdadcb1有了初值，可以写出递推公式： T1032 980 42 910 873 50 826Lz1.0 95.7 8. . 31.0 6. 5. 4. 327LH1)(kth这样可以根据公式进行计算。 )(1)()()1() 1)()()() 1kkkkkkzkhPKPhK算得：P(1) =0.0134 -0.3536-0.3536 9.6685P(2) =0.0047 -0.1397-0.1397 4.4118P(3) =0.0017 -0.0594-0.0594 2.2224P(4) =0.0008 -0.0327-0.0327
8、1.4264P(5) =0.0005 -0.0198-0.0198 1.0025P(6) =0.0003 -0.0143-0.0143 0.8103P(7) =0.0002 -0.0110-0.0110 0.6863P(8) =0.0002 -0.0088-0.0088 0.5986 Tk 702.6 .983 705.31 8.42 702.963 698. 75.2 61.3 4344050)(8简述系统辨识中的模型、逆模型及广义模型的概念，Bayes 辨识和 Kalman 滤波分别采用什么模型？ 模型的含义模型把关于实际过程的本质的部分信息简缩成有用的描述形式。它是用来描述过程的运动规律
9、，是过程的一种客观写照或缩影，是分析、预报、控制过程行为的有力工具。模型是实体的一种简化描述。模型保持实体的一部分特征，而将其它特征忽略或者变化。不同的简化方法得到不同的模型。Bayes-最小二乘模型 Kalman-线性代数和隐马尔可夫模型9在线辨识和离线辨识的差别是什么？如果系统的模型结构已经选好，阶数也已确定，在获得全部数据之后，用最小二乘法、极大似然法或其它估计方法，对数据进行集中处理后，得到模型参数的估计值，这种方法称为离线辨识。离线辨识的优点是参数估计值的精度较高，缺点是需要存储大量数据，运算量也大,难以适用于实时控制 。在线辨识时，系统的模型结构和阶数是事先确定好的。当获得一部分新
10、的输入输出数据后，在线采用估计方法进行处理，从而得到模型的新的估计值。在线辨识的优点是所要求的计算机存储量较小，辨识计算时运算量较小，适合于实时控制，缺点是参数估计的精度较差。为了实现自适应控制，必须采用在线辨识，要求在很短的时间内把参数辨识出来。10已知确定性问题的梯度校正参数辨识方法的参数估计递推公式为 (1)()()()kkykh R并且权矩阵 选取如下形式。)(kR12()(),()Nckdiagkk如果权矩阵满足以下条件。（1） ；0(),()LiHi， ， ，（2） 个 中存在一个 ，使得Nikmk)(1)(1kii（3） ；210()()Niickhk（4） 与 不正交。)(0
11、证明不管参数估计值的初始值如何选择，参数估计值总是全局一致渐近收敛的，即有 0)(lim kP92定理的证明： 建立关于参数估计偏差 的离散时间运动方程。由于：)(k )()()()1( 0kkykR h令： ，由：)()(0k )()()()100 - 我们有： )()()( kkkR h即（*）)()()1(kkkRI h 建立方程（*）的 Lyapunov 能量函数。定义 Lyapunov 能量函数如下： NiimkkV12)()(),(其中 满足定理中的条件 2， 。由 Lyapunov 稳定性定理，mii只要 满足以下条件，则离散时间运动方程（*）具有全局一致),(kV渐近稳定的零点
12、。（a） ，对于所有的 ；0),(k 0 )(k（b） ，对于所有的 ；V （c）当 时，有 ；)(k ),(kV（d） ，对所有的 。0,1),(, 0 )(k由定理给定的条件可知（a） 、 （b）和（c）一定满足。 条件（d）满足的证明记： )(,)1(, kVkVkmmm则由 Lyapunov 能量函数的定义，有： Ni iiNi iiiiiiNi ii iiiiiii ii iiNi iiNiiii NiimiimmkkQkkkkkkk kkV12121221 22221 221221212 1212)()( )1()()( )1()()()1()()()( )()()()(,其中：
13、Ni i iiiiNiiii kkk1122 )(2)(1)()( 将 及 的定义式代入，由于：)()()( yk R hR)()()()()( 0 kkkkyk h 我们有： 2)()()( )(12Niiii iiikhkckQ 由定理给的条件 2，有)(1,)1(,)()()1()(1(, 1212 kVkVQkkQkVmmmNiiNi iim 利用 和 的定义，由,kVm,k )(,)1(,kVVmmm上面的不等式可得： )(,)(,1,(),(),0 kVQkVVQmm 即有： )(,km由于 ，所以为了使 ，必须 ，即要求：0)(km 0,V 0Q2)()()(12 Niiikhk
14、c由定理的条件 4，有 ，因此上面的不等式为：0hNiiikhkc12)()(0至此证明了只要定理的条件满足，必有 ，定理证毕。0,V11 （1）设 和 是两个随机变量（向量） ，且 取值所形成的空间为 S， 试解释XYX的几何含义；()hE（2）随机逼近原理的内容为：给定 ，设方程()hxYxE有唯一解。可以取 的样本值为 ，对应 的样本值为X,21Y，通过迭代，逐步逼近上述方程的解。试叙述随机逼近 R-M),(21xy算法的内容。P118 答；(1)用 的某一函数 来作为 的预测，记作X)(XhY，使得 达到最小。)(hY2YE（2） （C）)()()1kxykx其中： 称为收敛因子。如果
15、 满足：)(k（D）121)(;)(0lim,0kk则由（C）确定的 在均方意义下收敛于方程（B）的解。)(x一般 取：)(k kabk)(;1)(另外：当满足以下条件时 0)(inf,0,)(;()(, 201212102 xhxhxhdcypyx由（C）确定的 满足：)(kx1)(lim0xkP12 （1）什么是极大似然估计？其与最小二乘估计的主要区别是什么？（2）运用极大似然估计给出参数估计，所得的统计量一般是什么统计量？其物理涵义是什么？（3）设对某电阻进行测量，其观测值服从正态分布 ，现获取的样本),(2N为 ，试求 的极大似然估计。nX,.1),(答：（1）设 是随机变量，已知条件
16、概率密度函数 ，观测序z )(zp列为 ，记为向量形式 ，则 的联合Lkz,2);( ,)2(,1LzLL条件概率密度函数为 ，那么参数 的极大化似然估计就是使)(p的参数估计值。max)(Lp即有：或 0 zMLp)( 0 zMLp)(log给定一组数据 ，此时 只是 的函数，我们)(,2),1(zL )(称为 的似然函数，记为 。因此极大似然原理可表示为：L（A）0 ML)(或（B）0 zML)(log其中 称为对数似然函数。 称作极大似然参数估计)(logzL ML 值。与最小二乘法的区别：对于最小二乘估计，最合理的参数估计量应该使得模型能最好地拟合样本数据，也就是估计值和观测值之差的平
17、方和最小。对于最大似然法，最合理的参数估计量应该使得从模型中抽取该 n 组样本观测值的概率最大，也就是概率分布函数或者说是似然函数最大。显然，这是从不同原理出发的两种参数估计方法。因此最大似然法需要已知这个概率分布函数，一般假设其满足正态分布函数的特性，在这种情况下，最大似然估计和最小二乘估计是等价的，也就是说估计结果是相同的，但是原理和出发点完全不同（2）对数似然函数统计量，对一组确定的随机序列 ，设法找到参Lz数估计值 ，使得随机变量 在 条件下的概率密度函数最大可能地ML zML 逼近随机变量 在 （真值）条件下的概率密度函数，即有：z0 )()(0max zpzpL 可以证明：（A）或
18、（B）式是实现上式的条件。（3）将模型写成最小二乘格式： LLHez其中： )()1()()1( 22)()0()0(,21)(,),(1 nLuunLzLzzzHbaLeezzLnnL 记噪声 的协方差阵为 ，则由 的正态性，可知：)(keeEkv),(eLLHN因此，有： )()(21exp)(dt)2( 121 zzz LeLLL Hp 对应的对数似然函数为： )()(21)log(det21)l(og)( 1zzzz LeLLL Hpl 由极大似然原理可得：LeLeMLHz 11)( （D）并且 0 zMLl2)(因此（D）式给出了参数 的极大似然估计值。13分析极大后验参数估计方法与
19、条件期望参数估计方法之间的内在联系。P149-P151在有了后验分布（A）后，对参数的估计，必须建立在这个后验分布的基础上推出，具体可结合使用者的某种要求（准则）来处理。 （1）若取后验分布（A）的（条件）均值作为参数 的估计，则称此为 Bayes 条件期望估计；（2）若取 满足：后验分布（A）达最大的 的作为 ，称 为 Bayes 最大后验估计。他们是从直观的定义出发来构造参数的估计量的。一般来说，当 k 比较小时，这俩种方法的估计结果是不同的；当 k 比较大时，他们就没有什么差别了，俩者的估计结果将趋于一致。14什么是系统辨识三要素？说明结构辨识和参数辨识的联系及区别。阐述 Bayes参数
20、辨识算法。 辨识的三大要素1. 输入输出数据2. 模型类3. 等价准则模型结构辨识:在假定模型结构的前提下，利用辨识方法确定模型结构参数，如差分方程中的阶次、纯延迟等。模型参数辨识:在假定模型结构确定之后，选择估计方法，利用测量数据估计模型中的未知参数；Bayes-P14815对于模型类 ()()Tzkkh阐述利用 Bayes 方法估计参数 的基本思想并给出参数 递推估计算法。P152 P154-式 6.4016阐述预测、滤波与平滑三种估计的差异，说明 Kalman 滤波是采用何种准则利用一步预测和滤波实现状态估计的。P160 P16417模型参考自适应辨识方法与自校正自适应辨识方法的差别是什
21、么？P172 定义+P180 小结最后一段自校正控制的基本思想是将参数估计递推算法与各种不同类型的控制算法结合起来，形成一个能自动校正控制器参数的实时计算机控制系统。定义中有啊。 一个是控制算法，一个是根据特性差异。 。18给出神经网络正向建模的串-并联结构图及并联结构图并比较其差异。P190-图 7.4 P191-图 7.5 差异 P19019阐述神经网络直接和间接模型参考自适应控制系统原理，说明其辨识方法。PPT6.420简述 BP 网络在线逼近原理及离线建模原理并比较它们的差异。PPT6.2+后面 621考虑被控对象 (1)()()ykgykyku式中， 分别为对象的输入、输出， 为非零函数。试构造 RBF(),uk 网络自校正控制算法。PPT6.422举例说明建模、逼近、设计三种类型系统辨识的特点。阐述利用 Hopfield 网络进行参数辨识的原理。PPT6.523什么是模型参考自适应控制？P17224简述基于 RBF 网络辨识的自校正控制原理。PPT6.425简述模糊系统模糊逼近原理。PPT7.326简述 Hopfield 网络原理及在优化问题求解中的应用。PPT6.527简述模糊系统的自适应模糊控制算法。28针对一维函数 ，设计一个模糊系统 ，使之一致地逼近定义在()gx()fx上的连续函数 ，所需精度为 ，即1,3U()sinx0.2。 页()xSupfx
