1、1三角基函数神经网络算法在数值积分中的应用研究 *1引言在科学技术中，积分是经常遇到的一个重要计算环节，比如 PID 调节器就涉及积分计算。在一定条件下，虽有 Newton-Leibniz 公式：可以计算定积分的值，但在很多情况下， ba xfFabdxf )(,)()(的原函数不易求得，或非常复杂。此外，在工程实际中，函数 是用函数表形式)(xf给出而没有解析表达式，这就更无法使用 Newton-Leibniz 公式了，因此有必要研究定积分的数值计算方法，以解决定积分的近似计算。数值积分的计算方法很多，如 Newton-Cotes方法、Romberg 方法、Gauss 方法等 1 4，其中
2、Newton-Cotes 方法是一种利用插值多项式来构造数值积分的常用方法，但是高阶的 Newton-Cotes 方法的收敛性没有保证，因此，在实际计算中很少使用高阶的 Newton-Cotes 公式；Romberg 方法收敛速度快、计算精度较高，但是计算量较大；Gauss 方法积分精度高、数值稳定、收敛速度较快，但是节点与系数的计算较麻烦、而且要求已知积分函数 。本文提出的数值积分计算方法，其基本思想)(xf是训练三角基函数神经网络来逼近被积函数以实现定积分的数值计算。研究结果表明，本文提出的数值积分方法积分精度高、收敛速度快、数值稳定，甚至可以处理一些奇异积分的问题，而且不需要给定被积函数
3、，因此能有效解决建模困难的系统或未知系统的求积分问题，在工程实际中有较大的应用价值。下面详细讨论三角基函数神经网络算法及其与数值积分的关系，并给出计算实例。2三角基函数神经网络模型三角基函数神经网络模型如图 1 所示，其中 为神经网络权值, 为三角基函数，jw)(xcj即： , ) （1）)2,.0)(cos(Njxj NxNxcj ,.2,1()2sin(为隐层神经元激励函数（N 为偶数） ，且 。设权值矩阵为：,0，激励矩阵为： ，则有：Tw,.10WTNc)(,.)1C神经网络输出： （2）()(0xcxyTNjjW误差函数： ),0,)mtftett （3）其中 为样本点数， 为被积函
4、数。m(x则有：性能指标： （4）102)mteJ权值调整： （5）()(txtC其中 为学习率，且 。21 三角基函数神经网络收敛定理定理 1. 设 为学习率，则当 时，神经网络算法收敛，其中 N+1 是隐层神240N经元个数。证明：取 Lyapunov 函数为： ，则有： )(1)(tetV )(21)()(2tetetV(6)2因为 ，而 ，于是有：WTtetette)()()1( )(te(7)2)()()(WttttT其中 ，称为 Euclid 范数的平方。所以式（6）改写为：22 )8.(.)(21)()( )(21)()(21122 22 Wtetettt tetetettV由式
5、（8）知，要使神经网络收敛，必须有下式成立，即： ，因0)(212Wte，所以 （9）02)(te由式（7） 、 （8）可得： ，所以 )()()( ttt xyxtCW，由式（1）可以证明Nnttt cxte02222 )()()()(CW因此，由式（9）有： ，即当学习率 满足)(02NcNnt 4时，有 ，从而本文讨论的三角基神经网络算法是收敛的，证毕。40)(tV22 三角基函数神经网络最佳学习率在神经网络训练中，学习率是影响神经网络收敛快慢以及是否收敛的一个重要参数，太小会使收敛太慢，太大会使神经网络振荡而无法收敛。为确定该神经网络的最佳学习率，本文以随机函数作为训练对象。在构造神经
6、元网络模型时，取网络结构为：，学习率为： ，其中 为学习率调整因子，10,21 124N即 。训练结果如表 1 所示。由表 1 可知，最佳学习率： ，其中 optopt1243， 为最佳学习率调整因子。故一般情况下，最佳学习率应取为：5.0optopt。图 2 为取 时的某次训练结果对训练对象的误差Nt5.0opt，其中 y 为训练结果，yd 为训练对象。dyerlg10图 1 余弦基函数神经网络模型 图 2 随机函数训练误差表 1：学习率与收敛速度的关系学习率 14 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0学习次数 55 25 15 9 7 11 18
7、31 67 不收敛3积分定理 定理 2. 设 a、b 为积分上下限，且 ， 为神经网络权值，则有：ba,0jw)cos()(1)sin()i(1)() 2/2/0 jbjajjjwdxfI NjN 证明： bababaNj jjNj dxxdxyxfI 2/0/12sinco)cos()(1)sin()i(1)( )sin(co)i()s( 2/2/0 2/1/2/12/10 jbjajjajbjab dxjdxjj NjNbjjbajjNj jNjj ww证毕。由定理 2 可以得出以下三条推论：推论 1. 当 时, )cos()sin(1)()( 222/00 jNjNjNjbab bbdx
8、fxfI 推论 2. 当 时, )()( )1(2/100 jNjjba wffI推论 3. 当 时, )sin()cos()()( 2)1(2/10 wjNjjbaaNjj aadxfxfI 44数值积分实例为了验证本文提出的数值积分算法的优越性，本文选取了参考文献567中给出的一些实例进行计算，与传统的梯形法、辛甫生方法、组合辛甫生方法和龙贝格方法比较（见例 1 和例 2） ，精度高，适应性强。例 1文献7用梯形法和辛甫生方法在0 ，2积分区间分别计算被积函数：等六个函数的积分，结果如文献7中的表 4.7 所示。在xex,sin1),/(,24本文算法中，取神经网络结构为： ， ，学习率：
9、 ，训练样1210J0164.本集为： 。表 2 列出了文献7的结果和本文算法的结6,0),(|60kfk果。表 2：几种数值积分方法对应各函数的计算结果7)(xf2x4)1/(x2x)sin(xeExact value 2.667 6.400 1.099 2.958 1.416 6.389Trapezoidal 4.000 16.000 1.333 3.326 0.909 8.389Simpsons 2.667 6.667 1.111 2.964 1.425 6.421本文结果 2.665 6.393 1.101 2.959 1.415 6.388例 2计算积分： 4802)(cos1dx用
10、 Romberg 方法计算该积分时遇到了困难 6，用 Composite Simpsons rule 计算时，将积分区间0 ，48等分成 100 个子区间，计算结果为 58.470825。考虑到被积函数是以 为周期的函数，且 48=15 +0.8761，因此，本文计算方法如下：=15 +4802)(cos1dx02)(cos1dx8761.02)(cosdx根据定理 2 中的推论 1 和推论 2 有： )8761.0cos()8761.0sin( )1(5.5222/1480 /0wwjNjNjNj Nj jjj 取神经网络结构为： ，性能指标： ，学习率为： ，训练4J083.样本集为： ，
11、计算结果为：,),(|2kxfxk，图 3 为训练结果对训练对象的误差。480)(cos1d508.例 3为了检验本文算法具有奇异积分的处理能力，考虑如下奇异函数： 32,10,)(3/xexfxx该函数的精确积分值为：1.546036。取神经网络结构为： ，性能指标： ，学习率为： ，训练样16201J032.本集为： ，计算结果为 1.5467。图 4 为训练结果对训3,0),(|30kxfxk5练对象的误差。图 3 例 2 训练误差 图 4 例 3 训练误差例 4设某一 LTI 系统的输入为 ，其单位冲激响应为)(tx)(th)(2tuhet则系统的输出为 ： 8tdy02)(取神经网络
12、结构为： ，性能指标： ，学习率为： ，训练样1201J0164.本集为： ，图 5 显示了 时的计算结果与系统输6,.),(6kfKK ,t出精确值的误差曲线。图 5 例 4 误差曲线5结论由本文给出的四个实例及 2.2 中随机函数训练结果可以看出，三角基函数神经网络算法收敛速度快，本文提出的基于三角基函数神经网络算法的数值积分算法适应性强，计算精度较高，不要求已知被积函数，因此，本文算法不仅适合于已知函数的数值积分，而且也适合于未知函数的数值积分。本文提出的数值积分算法的另一大特点是能够对奇异函数进行积分，而且精度高，这一点可以从例 3 看出。但是本文只解决了函数的单重积分问题；另一方面，
13、由于本文提出的数值积分算法要求积分区间 ，因此对积分区间超出该范,0围的积分求解，必须对被积函数进行变换，使积分区间 （如例 2） 。参考文献1 Richard L. Burden, J. Douglas Faires. Numerical Analysis(Seventh Edition)M. 北京：高等教育出版社，2001，1862262 王能超. 数值分析简明教程M. 北京：高等教育出版社，1997：6696. 3 沈剑华. 数值计算基础M. 上海：同济大学出版社，1999：731094 林成森. 数值计算方法（上）M. 北京：科学出版社，1998：1732155 Richard L.
14、Burden, J. Douglas Faires. Numerical Analysis(Seventh Edition)M. 北京：高等教育出版社，62001：206，772。6 Richard L. Burden, J. Douglas Faires. Numerical Analysis(Seventh Edition)M. 北京：高等教育出版社，2001：2127 Richard L. Burden, J. Douglas Faires. Numerical Analysis(Seventh Edition)M. 北京：高等教育出版社，2001：1908 ALAN V. OPPENH
15、EIM,ALAN S. WILLSKY, WTTH S.HAMID NAWAB，刘树棠译. 信号与系统（第二版）M，西安：西安交通大学出版社， 1998：7172Numerical Integration Study Based On Triangle Basis Neural Network AlgorithmWang Xiaohua ,He Yigang , Zeng Zhezhao2,112(1. Electrical And Infomational Engineering College, Hunan University, Changsha 410082, China; 2.Ele
16、ctric Power Engineering Department, Changsha Electric Power University, Changsha 410077, China)Abstract:IN this paper a new appproach to solve numerical integration is developsed based on the algorithm of neural networks with triangle basis functions , and the convergence theorem of the neural netwo
17、rks algorithm and the theorem of numerical integration solution and its inferences are presented and proved. The examples of numerical integration are also offered, and their results are compared to the results by contradional methods. The results show that the numerical integration approach present
18、ed in this paper has some characteristics such as high precision and strong adaptablity,futhermore,the intergration of unknown fountions can be solved by the numerical integration approach .Therefore,the numerical integration approach has significant application value in many engineering practice fi
19、elds such as electronics etc.Key words: triangle basis functions, neural network algorithm, numerical integration , convergence theorem作者简介：王小华，男，1968 年 11 月生于湖南常德，1996 年毕业于湖南大学，同年获硕士学位，现为湖南大学在职博士生。主要研究方向为模数电路故障诊断、信号处理、神经网络理论与应用等。何怡刚，男，1966 年生于湖南邵阳，教授，博士生导师，1996 年毕业于西安交通大学，同年获博士学位。主要研究方向为模拟集成电路、模数电路
20、故障诊断、信号处理、神经网络理论与应用等。曾喆昭，男，1963 年 9 月生于湖南蓝山，教授，1989 年毕业于清华大学，同年获硕士学位。主要研究方向为单片机应用系统开发、信号处理、神经网络理论与应用等。联络方式：姓名：王小华地址：长沙市赤岭路九号长沙电力学院电力工程系邮政编码：410077电话：013036793637E-mail：修改说明：1 关于本文提出的数值积分算法在电子学领域中的应用实例已在例 4 中补充；2 作者除了对文中的 4 个实例进行计算外，还做了其他大量函数的积分计算，并非刻意挑选这 4 个实例中的函数。从对各个函数的积分计算结果来看，与几种传统的数值积分方法比较，本文提出的数值积分算法精度高，适应性强。(见例 1 的前面)；至于本文提出的数值积分算法的局限性及解决方法在结论的后面已补充。
