基于共轭梯度法的LMBP算法收敛速度的改进研究

《基于共轭梯度法的LMBP算法收敛速度的改进研究》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、基于共轨梯度法的LMBP算法收敛速度的改进研究于振波'，徐文尚'，于庆明孙彦良S董天文2••、•,•-1.山东科技大学信息与电气工程学院，山东青岛266510,2.兖矿集团公司东滩煤矿，山东邹城273512zbyu2008@l63.com摘要，对LMBP算法进行深入研究，发现其中涉及的矩阵［尸7+“丿］求逆是其收敛速度的瓶颈，从数值分析的角度，通过引入求解大规模线性方程组的共辘梯度法，降低了计算复杂度，提高了算法的收敛速度。最后，结合某设备齿轮箱故障诊断样本进行训练仿真。仿真结果表明，基于该改进算法的单隐含层BP网络整体收敛速度明显优于基本LMBP算法，经改进算法训练的网络能大

2、大提高故障的诊断能力。关犍词，LMBP算法共純梯度法故障诊断ResearchonImprovementofConvergenceSpeedofLMBPAlgorithmBasedonConjugateGradientMethodYUZhen-bo1,XUWen-shangYUQing-ming1,SunYan-liang1,DongTlan-wen2LCollegeofInformationandElectricalEngineering,ShanDongUniversityofScienceandTechnology,QingdaoShandong>266510.2.Don

3、gtanCoalMine,YanzhouMiningGroup,Yanzhou273512,Chinazbyu2008@163.comAbstract:DetailresearchiscarriedoutonLevenberg-MarquardtBP(LMBP)titisfoundthatthecalculationofinversematrixof［丿7V+involvedcausesprimarilytheproblem.Thispaperproposesoneamelioratedmethodfrompointofnumericalanalysis,thenewalgor

4、ithmnotonlyimprovesitsconvergencespeedandoverallcomplexitybyintroducingconjugategradientmethodinsolvingoflarge-scaleequationsets.Atlast,thisamelioratedLMBPalgorithmisappliedintothetrainingsimulationofsomedevice'sgearboxfaultdiagnosis.Theresultindicatesthattotaltrainingspeedofsinglehiddenlaye

5、rBPneuralnetworkbasedonimprovedLMBPalgorithmconvergesveryrapidlyandhasgoodprecisioncomparedwiththebasicLMBPalgorithm.TheimprovedBPneuralnetworkissuitableforthecaseoffaultdiagnosis.Keywords:LMBPalgorithm；conjugategradientmethod：faultdiagnosis1.引言近年来，神经网络的研究大都致力于解决复杂的现实问题⑴.反向传播(BP)算法是多层前馈人工神经网

6、络中应用最广的算法。BP算法己经被证明能够以任意精度逼近任意给定的非线性函数。然而，当把标准的BP算法应用到实际问题时，经常需要计算机运算几天甚至几周•算法才能达到收敛筒，这在很大程度上限制了BP算法的早期应用，因此；很多学者对如何加快BP算法收敛速度的问题做了大景的研究.提出了改进算法.大致分为两类r第一类是基于启发式信息的改进算法，主要包括增加动量项法（MOBP）.可变学习速度法（VLBP）o第二类是基于数值优化的改进算法，最为成功的有Levenberg-Marquardt算法（LMBP）和共觇梯度算法（CGBP）。这些算法都不同程度地提高了网络的收敛速度。相对于标准BP算

7、法,LMBP算法的改进思想是变化最大的，在提高网络收敛速度方面也是最为成功的。它是牛顿法与最速下降算法的有效折中，既具有牛顿法的速度优势，又具有最速下降算法保证收敛的特性，且特别适合于对性能指数是均方误差的网络进行训练。但该算法在收敛速度上也存在弊端，即在每次迭代运算时计算量比任何其它改进算法都大，因为该算法有对矩阵求逆运算,对于大型矩阵而言，这是非常耗时的。本文针对大型矩阵求逆耗时的缺点，并根据矩阵对称正定特性，通过引入求解大规模线性方程组的共辘梯度法，降低了计算复杂度，提高了算法的收敛速