1、1基于混合学习算法的模糊神经网络控制系统 *刘美俊厦门理工学院电子与电气工程系（厦门 361024）摘要：针对复杂非线性系统在控制过程中的不确定性及参数的时变性，设计了一种模糊神经自适应预测控制系统，通过误差补偿以提高预测控制的精度；对模糊神经网络（FNN）的学习算法进行了研究，利用遗传算法的全局搜索能力对 FNN 控制器参数进行离线优化，并对遗传操作进行了改进，使其最终搜索到全局最优或近似全局最优的附近，再利用 BP算法的局部搜索能力和对对象的适应能力，进一步对参数进行在线调整。这样使系统具有更高的学习精度和更快的收敛速度，所得的 FNN 具有良好的泛化性能。仿真结果证明了本方法的有效性。关
2、键词：模糊控制 神经网络 混合算法 自适应预测控制 仿真A FUZZY NEURAL NETWORK CONTROL SYSTEM BASED ON HYBRID LEARNING ALGORITHMS LIU Mei-jun（Department.of Electronic and Electrical Engineering.,Xiamen University of Technology, Xiamen China 361024）ABSTRACT: For a class of complex nonlinear system with uncertainty and time-vary
3、ing parameters in the process control,an adaptive predictive control system based on fuzzy neural network has been developed. using the error-compensation ,the accuracy of the system was improved; researching the algorithms of fuzzy neural network(FNN), an optimal or suboptimal spot is found by the
4、optimization of fuzzy network s parameters using the global searching ability of genetic algorithms.the BP algorithms ability of local searching and adaptation to object is used to adjust the parameters further. So the system owns more accurate precision and faster convergent speed ,and the FNN obta
5、ined has excellent performance of generalization.A simulation example demonstrates the efficiency of the method.KEY WORDS: Fuzzy control, Neural network, Hybrid algorithms, self-adaptive control. Simulation 1 引言 近年来，非线性动态系统的自适应控制是一个十分活跃的研究领域 1,2，模糊神经网络控制作为一个重要的自适应方案得到了广泛研究 3。模糊逻辑模仿人脑的逻辑思维，用于处理对象未知或不
6、精确的系统；神经网络模仿人脑神经元的功能，可作为一般的函数估计器，映射系统输入与输出的关系。模糊系统和神经网络相互融合，构造成各种模糊神经网络，作为模糊信息处理单元以实现模糊信息的自动化处理。但常规的模糊神经网络在设计过程中往往存在技术上的困难，其控制精度及学习能力需进一步提高。同时由神经网络设计的控制器往往不是全局最优，这主要是由于 BP 算法本身存在的易收敛于局部极小值所致 4,5。遗传算法是 1975 年由 J.Holland 教授提出的一种模仿生物进化原理的随机搜索算法，自问世以来已经在函数优化、模式识别、图像处理、人工智能等许多领域得到了成功的应用。遗传算法的主要特点是群体探索策略和
7、群体中个体之间的信息交换、搜索不依赖于梯度信息，具有较强的自适应性、鲁棒性和全局搜索能力，因而在非线性函数优化问题的应用上受到了广泛重视。但是遗传算法也存在着接近最优解时搜索效率下降以及可能过早进入未成熟收敛的缺点。为了克服上述缺点，本文提出了一种结构化的模糊神经网络，并设计了一种自适应预福建省教育厅 A 类科技项目 编号 JA082182测控制方案，采用遗传算法和 BP 算法相结合的混合学习算法，取得了较好的控制精度和非线性处理能力。2 模糊神经网络自适应系统的设计本文提出的模糊神经网络自适应控制系统结合了模糊逻辑和神经网络控制技术，利用一个神经网络辨识器和模糊神经网络控制来解决非线性滚动优
8、化问题，引入辨识器主要是对控制效果进行预测，以使系统在控制点间具有学习能力，从而提高收敛速度，增强系统的稳定性 6。系统结构框图如图 1 所示，图中 MR 为参考模型，NNI 为神经网络辨识（预测）模块，FNNC 为模糊神经网络控制模块，TDL 为时延环节，e 为控制误差， 为辨识误差， 为预测误差。 e前 乆 L 乎 I r ym欨 ) + e- 欨 ) 欨 偂 图 1 控制系统总体结构图Fig1 The structure of control system2.1 模糊神经网络控制器的设计模糊神经网络控制模型如图 2 所示。图中两个输入（x1,x2）分别表示误差和误差变化率，而模糊子空间则
9、划分成七个子集PB, PM, PS, ZO, NS, NM, NB, 表示“正大”,“正中” ，“正小” ， “零” ， “负小” ， “负中” ， “负大”, 输出为 y。3 Wy ) . 图 2 模糊神经网络结构图Fig2 The structure of the fuzzy-neural network在图 2 中，网络的()-() 层对应于模糊控制规则的前提“IF-THEN”部分，()层对应模糊逻辑，每个节点输出表示一条规则的触发强度（隶属度） ， “”表示模糊隶属度取极小运算， （）层对应于规则推理的结论部分“THEN-PART” ，完成推理合成，逆模糊运算，整个网络的输入输出映射关
10、系如下：第（）层：输入层，对应于第 j 个节点的输入/输出表示为：(1)()11()1(1),jijijjjjnetWxyfnettA（1） 其中 Wij 权值为“1” ， 和 分别表示节点输入和输出。jj第（）层：隶属函数层，若用高斯函数作为隶属函数，则有节点的输入/输出关系：(2)(2),ij iijjAijxanetab（2）(2)()(2)(2)expjjj jyftnt（3）其中 aij 和 bij 分别表示高斯函数的参数， 表示输入语言变量。(2)i第（）层：规则库，这一层主要实现前提匹配， “AND-MIN”操作运算。(3)(3)(3)()(3)(3)1,njijijjjjiet
11、WxyfnettA（4）其中 Wij 为连接权值，给定为“1” 。4第（）层为输出层，这一层主要实现所有规则的结论组合。(4)(4)(4)()(4)(4)1,mjijijjjjinetWxyfnettuA（5）其中 netj 和 fj 分别表示网络节点的输入和激发函数 7。2.2 神经网络辨识器的设计当采用 BP 算法的多层前馈网络进行系统辨识时，单输入、单输出系统（ SISO）的非线性动态模型（NARMA）如式（6）所示，其中，u( k), y(k)分别为系统在 k 时刻的输入、输出，f.为非线性函数。m 、 n 分别表示与前 m 次输入及前 n 次输出有关，10(1)(),1,()()mi
12、ykfykybu（6）为保证整个辨识结构的稳定性，并使模型的输出充分逼近实际对象的输出，一般采用串并联辨识模型。10(1)(),1,()()mN iykfykyknbuk（7）为使模型更加真实地反映实际对象，并考虑到反馈控制的作用可能会使 BIBO(Bounded Input Bounded Output)系统变得无界，因此首先对系统进行离散辨识，然后将网络模型加入控制系统，如系统运行时网络模型的输出与实际输出相差较大时，可利用系统运行时产生的数据对离线训练好的辨识网络进行在线学习，以适应对象参数的时变，得到精确的局部预测模型。 离线学习的教师信号集为（8）()1)(1),TSXkyukARa
13、ndkN式中： ; u(k)为激励(),(1um 信号；A 为信号幅值，Rand(1)为-1,1 之间的均匀分布随机数， m、 n 与实际对象的阶次有关，N 为训练样本集个数由于含有一个隐含层的 BP 网络可以逼近任意有界连续非线性，所以对于非线性系统的辨识采用含有一个隐含层的三层前向网络，各层神经元个数可按如下原则选取：（1）输入层神经元个数为 ；（2）隐含层神经元个数 ；（3）输出层的神经元1InmHIn个数 为待辨识系统的输出个数，对于单输入、单输出系统 。基于 BP 网络的系统o 1o离线辨识可以采用加动态项的修正 规则来训练，文献11证明了辨识算法的收敛性，具体算法如下：网络的输入层
14、为：（9）1 1(),0iytiinQum5其中 , 即输入层的结点个数。1mn令 隐含层结点个数，则隐含层可表述为：2122()(),1,mjijinetWQtjm（10）2 2()(),jjtgtj（11）输出层为：231()()mjjytWQt（12）其中 为输入层与隐含层间的连接权值， 为隐含层与输出层之间的连接权值。2ijW3j激励函数取2()1xge（13）定义用于训练 NNI 的目标函数为：21()()2Eytt（14）则目标函数对辨识网络 NNI 的权值的偏导数如下： 23 3(1)(1)()()(1)(jj jytytttytQtWWAA(15)2,jm(16)312 2(1
15、)(1)()()(1)()jjiij ijEytytttytgnettAAA根据带动态项的 BP 算法，得到 NNI 的权值修正公式如下：(17)2222112()()ijij ijijijEWttWtt(18)3333223(1)()1)jj jjjtttt当实际系统输入不固定时，文献12提出一种模糊控制器对系统中未知非线性部分进行辨识，然后再进行控制的方法，从其仿真结果可以看出，系统的输出在稳态后仍有小幅6度的振动，这是因为模糊控制技术（算法）本身是将整个论域划分为小的模糊论域，这样只能输出接近零值的输出，不可能精确到输出零值，本文用模糊神经网络来逼近，用神经网络进行辨识，模糊神经网络的控
16、制算法在下节讨论，神经网络离散训练时用上述 BP 算法，在线训练时用递推最小二乘法（RLS 算法） 。将 NARMA 模型进行简化，已知部分用线性项 表示，未知部分用 表示，由i()idk于 是未知的非线性动态部分，不可能直接得到，在无先验知识的情况下，如果完全采()fA用在线训练神经网络的方法，实时性很难满足，所以我们采用离线训练神经网络的方法，使之逼近对象的已知部分，再利用在线辨识的方法辨识受控对象的未知部分，离线辨识时，利用采集白噪声输入对象时得到输入输出数据作为样本，进行辨识；在线辨识时，用实时采集的控制信号（FNN 的输出）加入受控对象时得到的输入输出数据作为样本，采用 RLS算法进
17、行实时训练 8。RLS 训练算法如下：(19)1()()itittitWkMk(20) 111()()ttt Tit tPX(21)111()Tt tttitPkIkkA式（19）（21）是反向传播的 RLS 估计算法的通式，当神经网络的层数 t 取 L 时（本文为 3 层） ，即为输出层：(22)()()iLiiLkrnetkt 取其他值时，即为隐含层或输入层时：(23)1 1()()iLiLiiLWft采用上述算式对神经网络的各权值进行调节，直到性能指标达到要求为止。3 模糊神经网络的混合学习算法3.1 遗传算法的离线参数优化1）参数的编码与解码 本文采用二值编码法，若参数 a 被编码成
18、L 位的二制码串 bL-1b1b0，解码后1mxinin minax02,ib（24）在编码时，L 增大，最优可能解的误差减少，但是 L 的增大也导致串空间的增大，到达最优可能解的概率也减少，而且 L 增加还会导致计算量增大。因此主要考虑在计算过程中动态缩小优化区间。具体做法是：当平均适配值在 K (K 为事先设定的常数) 代内的变化小于某个较小的数，则基本可以确定算法结果已经收敛，以遗传算法当前最优解为中点，将寻7优区间缩小一定的倍数，然后重新在新区间上初始化种群并执行算法。需要注意的是：为得到最优解，每一次缩小区间的倍数不宜过大，通常取 510 较好。2）码串的组成 遗传算法中的一个个体可
19、用一个码串表示，本文提出的遗传算法是一种参数优化方法，这种算法主要基于相对独立的生物群体间既有优良个体的互换，又有群体间的互相侵略征服的生物模型。当某一群体的整体适配值低于一定的水平时，就变为进化落后群体，会被整体适配值高的群体所侵略征服，但入侵者并不灭绝落后群体的全部个体，而是保留其中的一些优良个体，淘汰差的个体，形成落后子群体的进化。优良个体互换可以相互取长补短，产生更加优良的模式，因此需要编码的参数有三个： 和 ，将隶属度参数kiabjW(k=1,2; i=1,2,7)和规则中的输出参数 (j=1,2, 49),共计 77 个参数，按 aki, kiab jbki， 的顺序编成一个码串，
20、从而产生一个个体染色体 Ok（k=1,2, N）,N 为种群规模jW9、10、11 。3）控制策略 定义模糊神经网络对训练样本集合的误差指标为：211()()()()maxMMi kik kikkJyryrm（25）式中：M 为样本个数；01 为均衡系数； i 是第 i 个染色体所对应的参数，这里选取误差指标是为了防止平均误差较小而个别样本误差太大的情况。在训练神经网络控制器时，要用到 ，若对象的特性已知，即系统参考输入已知，()yku则 已知；但大多数情况下，系统参考输入不是固定的，系统特性未知，此时通过()yku2.2 节所描述的神经网络辨识器进行辨识，被控对象的动态特性就完全可以由辨识器
21、来代替，因此可以用 来代替 。()yk()yku适值函数体现出优化对象与遗传算法的外部联系，是算法和对象沟通信息的基本桥梁，它的选取体现了对优化对象和目的的把握程度。算法与对象耦合的紧密程度决定了算法的稳定性和可靠性，应当在最大可能的情况下加强这种联系，这是提高遗传算法效率的最根本途径。在遗传算法中适值函数的选择原则是：适值函数应体现出对优化问题本质的反映；对初始适值函数进行适当构造（不改变最优解的分布） ，使构造后的新适值函数更加有利于提高遗传算法的效率 13、14、15 。本文定义个体的适值函数： （26）()()iiFPJ其中 为常数，M 为种群规模。这样的适应值函数满足不小于零的条件。
22、1()maxikPJ个体 i 的复制概率为：8（27）1()/()MiiipF可采用赌盘进行复制，但这样并不能保证子代的最优个体一定不劣于父代的最优个体，从而可能出现所谓的遗传退化问题。为了避免这种情况，提出如下策略：挑选出种群中的最小适配值，将种群中所有个体的适配值都减去该最小适配值，然后根据新的适配值采用赌盘进行选择。该策略在计算过程中动态地改变了每个串的适配值。本文将 5适配值最大的个体无条件地复制到下一代，其余个体按 0.95pi 的概率进行复制，从而保证新一代的最优个体一定不劣于其父代，实现学习过程的单调收敛 16、17、18 。4）交叉和变异 交叉在遗传算法中的作用是扩展搜索空间，
23、经典遗传算法中的随机交叉容易产生近亲繁殖，导致算法可能陷入局部收敛，因此应尽量将两个基因差异比较大的个体进行交叉。本文采用单点交叉、随机变异操作，同时为了维持群体的多样性和算法收敛，引入自适应交叉与变异率，其控制表达式为： 1max35ax/()ccpkfff2max46ax/()pkff其中， 和 分别为群体中的最大适应度和平均适应度； 是两个待交叉个体中较大的maxf f适应度； 和 分别为交叉率和变异率； 体现了群体的收敛程度；cpmaxf，为常数，用上述遗传算法对自适应模糊神经网络的参数进行离线123456,1.0kk优化，在通过下面的 BP 算法实时调整 19、20 。3.2 BP
24、算法实时调整定义性能指标为 ，则各参数调整公式为：21/()Eytr()()ll llEtytyt（28）(1)()kiki kikiattat（29）9(1)()kiki kikiEbttbt（30）式中， 为学习速率； 为动量项系数，加入动量项系数是为了减少学习过程中的振荡，式（16）由下式推出：49(3)(3)1()()/lll lEytuytytrOu（31）(3)(3)(1)()(/()ll lllytyttytrytu （32）类似可得到 和 的递推公式：kiaib4949(3)(3)4923111)(1)()(i jkikiki jjjijjxaytttytrOyubOA（33）
25、24949(3)(3)493111)(1)()(i jkikiki jjjijjxaytattytryubA（34）式中 O 表示模糊神经网络中各层的输出， 通过神经网络辨识器求得。()ytu4 仿真研究为了验证本文提出的算法对非线性系统进行控制的有效性，对下述非线性系统进行仿真实验。22(1)() (1)2()()ytt uttt（35）模糊神经网络控制器的输入为误差 e 和误差变化 ec。遗传算法参数为：种群大小为 100，交叉率 0.9，变异率 0.01, K1=0.8, K2=0.1, K3=0.8, K4=0.1, K5=0.5, K6=0.05，NNI 为 4-6-1 结构，在闭环
26、控制前对辨识网络进行 1000 步的预训练，令系统输出跟踪在 2 和-2 之间呈阶跃变化的设定值，被控量 y 跟踪设定值 yr 的曲线如图 3 所示，控制量 u 的曲线如图 4 所示。10图 3 被控量跟踪设定值的曲线Fig 3 The curve of controlled variable tracking set-point图 4 控制量曲线Fig4 The curve of controlling variable由图 3、图 4 可知，当设定值 yr 阶跃变化时，y 能很快跟上，而且没有超调，u 的变化也比较平滑，并能在不断的在线学习中使用效果越来越好，这说明本文所提的控制算法是实用
27、的。在实际应用中发现，遗传算法中的交叉率 和变异率 对遗传算法的性能有cpm很大影响，一般选取范围 为 0.51.0, 为 0.0050.1。cpm5 结论本文提出的 FNNC 优化控制方法,FNNC 的结构是通过对控制过程的模拟,利用遗传算法优化包含控制器性能的指标来实现的,而 FNNC 的参数是通过遗传算法结合 BP 算法的混和遗传算法来实现的,它能够提高优化的速度,加快控制器对输入的响应，它无需事先提供控制规则,只需测得被控对象的输入输出数据或已知被控对象的辨识模型,减少了因专家经验不足或不准确带来的影响。它扩大了系统处理信息的范围，可以同时处理精确信息和不确定信息，系统的鲁棒性和自适应
28、能力均有较大提高；系统中通过网络前向运算实现模糊推理，提高了规则查询、推理的实时性；由于将遗传算法用于模糊神经网络控制器的离线优化，对模糊规则和隶属函数的形状进行调整，使系统达到最优或接近最优，能为在线调11整确定较好的初始参数，从而使 BP 算法发挥其局部搜索能力而不至于陷入局部极小。仿真结果表明了本文所提出的算法的有效性，具有一定的实用价值，可以推广到范围更广的优化问题中去。参考文献1李士勇. 模糊控制，神经网络控制和智能控制论M 哈尔滨：哈尔滨工业大学出版社，19962 刘勇，康立中等。非数值并行算法遗传算法M. 北京：科学出版社， 19973WANG Jing，Li Yu-1an，CA
29、I Zi-xingAn optimal designapproach for fuzzy system based on genetic algorithmJControl Theory and Applications，1999，16(5) ：699704.4胡俊达 基于遗传算法的模糊自适应控制在 DTC 的应用J 电工技术学报 2004（19）6:78845 R.Ordonez and K.M.Passino. Adaptive control for a class of nonlinear systems with a time-varying structureJ. IEEE Tra
30、ns.automat.2001.46:1521556 J.Spooner, R.Ordonez, M.Maggiore and K.Passino. Adaptive Control and Estimation for Nonlinear System:Neural and Fuzzy Approximator TechniquesM New York:Wiley. 2001 7Wang yaonan An adaptive control using fuzzy logic neural network and its applicationJ.Control Theory and App
31、lication,1995,12(4):4374448Jang J S R. Self-learning fuzzy controller based on temple back propagationJ,IEEE Trans on Neural Network, 1992,3(5):7147239 Jang J S R.ANFIS: Adaptive network based fuzzy inference systemJ,IEEE Trans on System Man and Cybernetic, 1993,23(3):66568510Halgamuge S K, Glesner
32、M. Neural networks in designing fuzzy system for real world applicationsJ Fuzzy Set and System, 1994,71(1):11211Spooner J T, Passino K M. Adptive control of a class of decentralized nonlinear systemsJ. IEEE Trans A C, 1996, 41(2):354364.12Sheikhileslam S, Desoer C A. Indirect adaptive control of a c
33、lass of interconnected nonlinear dynamical systems J Int J Control. 1993,57(3):74376513Chin Tengline and C.S. Geroge Lee, Neural network based fuzzy logical control and decision systemJ. IEEE Trans. On Computer, 1991,40(12):13201326.14刘勇，康立中等。非数值并行算法遗传算法M. 北京：科学出版社， 1997：150Liu Yong, Kang Lizhong et
34、al.Non-value parallel algorithm- Genetic algorithmM,Beijing: science press, 1997：15015 达飞鹏，宋文忠。一类非线性系统的自适应控制研究J。中国电机工程学报， 2002，22(6):2024.Da Feipeng, Song Wenzhong. Study on adaptive control for a class of nonlinear systemJ. Proceedings of the CSEE, 2002，22(6):2024.16李萌，沈炯。基于自适应遗传算法的过热汽温 PID 参数优化控制仿
35、真研究J. 中国电机工程学报， 2002，22(8):145149.Li Meng, Shen Jiong. Simulating study of adaptive GA-based PID parameter optimization for the control of superheated steam temperatureJ. Proceedings of the CSEE, 2002，22(8):145149.17夏长亮，文德，王娟。基于自适应人工神经网络的无刷直流电机换相转矩波动抑制新方法J. 中国电机工程学报， 2002，22(1):5458.12Xia Changliang
36、, Wen De, Wang Juan. A new approach of minimizing commutation torque ripple for brushless DC motor based on adaptive ANNJ. Proceedings of the CSEE, 2002，22(1):5458.18赵锡龄，焦云婷。单神经元自适应控制 PSD 在再热汽温控制中的应用J. 中国电机工程学报， 2001，21(2):9396.Zhao Xiling, Jiao Yunting. Single neuron self-adaptive PSD control and i
37、ts application in reheat steam temperature control systemJ. Proceedings of the CSEE, 2001，21(2):9396.19 何玉彬，王晓予，闫桂荣。神经网络在线学习模糊自适应控制及其应用J. 中国电机工程学报， 2000，20(10):6770.He Yubin, Wang Xiaoyu, Yan Guirong. Neural network online learning fuzzy adaptive control and its applicationJ. Proceedings of the CSEE
38、, 2000，20(10):6770.20 柴天佑，刘红波，张晶涛，等。基于模糊推理和自适应控制的协调控制系统设计新方法及其应用J. 中国电机工程学报， 2000，20(4):1418.Chai Tianyou, Liu Hongbo, Zhang Jingtao etal. Novel design method for the coordinated control system based on fuzzy reasoning and adaptive control and its applicationJ. Proceedings of the CSEE, 2000，20(4):1418.作者简介：刘美俊(1968.8) 男 汉族 湖南省双峰县人 教授 工学硕士 主要研究方向：智能控制、电力系统自动化等通讯地址:福建省厦门市集美区理工路 600 号 厦门理工学院电子与电气工程系 刘美俊邮 编: 361024 电话 : 13559205128 0592-6227528EMAIL: 此文发表于厦门理工学院学报2009 年 1 期
