资源描述:
《共轭梯度BP算法在Matlab7_0中的实现.pdf》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、现代电子技术2009年第18期总第305期计算机应用技术共轭梯度BP算法在Matlab7.0中的实现陈朝阳,行小帅,李玥(山西师范大学物理与信息工程学院山西临汾041004)摘要:应用Matlab7.0中神经网络工具箱建立BP神经网络的最优化求解方法,采用共轭梯度法对网络的权值和阈值进行优化计算,实现网络权值和阈值的快速计算,为分析神经网络的合理结构提供了必要条件。对BP神经网络的传统梯度下降法与共轭梯度算法进行了仿真。这里通过对算法的训练速度,容错泛化能力等方面加以讨论,多方面印证共轭梯度算法的优越性,仿真结果凸显了训练速度的大幅提高,尤其对训练后网络受损
2、情况下的泛化能力,采用线性回归的方法进行了仿真验证,同样得到满意结果,从新的角度支持了共轭梯度BP算法。关键词:BP神经网络;Matlab;神经网络工具箱;共轭梯度中图分类号:TP183文献标识码:A文章编号:1004-373X(2009)18-125-03ImplementofConjugateGradientBPAlgorithminMatlab7.0CHENZhaoyang,XINGXiaoshuai,LIYue(PhysicsandInformationEngineeringCollege,ShanxiNormalUniversity,Linfen
3、,041004,China)Abstract:TheoptimizedsolutionmethodofBPneuralnetworkisestabishedbyneuralnetworktoolboxinMatlab7.0,usingtheconjugategradientmethodcarryontheoptimizedcomputationtothenetworkweightandthethresholdvalue,thenetworkweightandthresholdvaluesrapidcalculationarerealized,theessentialcond
4、itionisprovidedforanalysingneuralnet-worksreasonablestructure.BPneuralnetworkstraditiongradientdescentlawandtheconjugategradientalgorithmaresimu-lated.Throughthealgorithmtrainingspeed,aspectsandfault-tolerantpanability,superiorityofconjugategradientalgorithmisverified,thesimulationresulth
5、ighlightstheimprovementoftrainingspeed,especiallyaftertrainingthenetworksuffersinjuryinsituationpan-ability,thelinearregressionmethodisusedtocarryonthesimulationconfirmation,satisfactionresultisob-tained,theconjugategradientBPalgorithmissupportedfromthenewangle.Keywords:BPneuralnetwork;Matl
6、ab;neuralnetworktoolbox;conjugategradient节省了程序设计,调试及网络学习训练所需的时间,提0引言高了研究的效率。在此利用简单程序及函数对两种BP人工神经网络(ArtificialNeuralNetwork,ANN)是神经网络算法做了对比讨论。基于模仿生物大脑的结构和功能而构成的一种信息处1BP神经网络两种算法理系统。它具有大规模并行数据处理能力,分布式存储能力,自适应学习能力等特性,已经广泛应用于信息处1.1BP神经网络的梯度下降法理,模式识别,智能控制及系统建模等领域。尤其是基函数的梯度方向指向该函数增加最快的方向,因而于误差
7、反向传播(Back-Propagation,BP)算法的多层前函数沿负梯度方向下降得最快,为此取负梯度方向作为[1-3]馈网络,即BP网络是目前应用最多的神经网络。下降算法的方向。对于给定的目标函数f[z],函数沿近年来为了克服标准BP神经网络收敛速度慢,易陷入负梯度方向下降的最快,所以从任意选定的初始点出局部最小值,学习过程会出现震荡等缺点,出现了一系发,每次搜索方向沿着目标函数在该点的负梯度方向进列的改进算法[4,5]。应用Matlab集成的神经网络工具行。从迭代点z(k)出发,沿着负梯度方向