资源描述:
《基于改进自构形学习算法的RBF网络结构优化》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、第21卷第4期计算技术与自动化Vol121No142002年12月COMPUTINGTECHNOLOGYANDAUTOMATIONDec12002文章编号:1003—6199(2002)04—0016—05基于改进自构形学习算法的RBF网络结构优化王英健,亓雪莲,唐贤瑛(长沙交通学院计算机工程系,长沙410076)摘要:RBF网络中的隐层神经元的数目直接影响着整个网络的性能和效率,因而对RBF网络的结构优化是一个非常必要的环节。本文先采用分步式训练构造初始RBF网络,然后利用改进的神经网络自构形学习算法对所构造的RBF网络的隐层进行优化,最后通过实验结果的分析与对比,验证改进的神
2、经网络自构形学习算法对RBF网络优化的有效性。关键词:RBF网络;结构优化;自构形学习算法中图分类号:TP301文献标识码:ABasedonSelfstructureLearningAlgorithmStructuralOptimizationofRBFNetworkWANGYingjian,QIXuelian,TANGXianying(DepartmentofComputerEngineering,ChangshaCommunicationsUniversity,Changsha410076)Abstract:ThenumberofhidelayerneuralunitsinR
3、BFneuralnetworkaffectsthewholenetwork'squalityandefficiencydirectly.SoitisaverynecessarysteptooptimizethestructureofRBFnetwork.ThethesisconstructsaninitialRBFnetworkfirstlybytraininginsteps,thenoptimizesthenetwork'shidelayerwithmodifiedneuralnetworkselfstructurelearningalgorithm.Finally,theth
4、esisprovesthevalidityofthemodifiedneuralnetworkselfstruc2turelearningalgorithmforstructuraloptimizationofRBFnetworkbyanalyzingandcomparingtheexpermentalre2sults.Keywords:RBFnetwork;structuraloptimization;selfstructurelearningalgorithm1引言径向基函数神经网络(RadialBasisFunctionNeuralNetwork,简称RBF网络)是由J1M
5、oody和C1Darken于20世纪80年代末提出的一种具有单隐层的三层前馈网络。由于它模拟了人脑中局部调整、相互覆盖接受域的神经网络结构,因此RBF网络是一种局部逼近网[1]络,已证明它能以任意精度逼近任一连续函数。RBF网络的拓扑结构如图1所示:在该网络结构中,假设输入层有n个输入单元x1,x2,⋯,xn,隐层有r个神经元u1,u2,⋯,ur,输出层有m个单元y1,y2,⋯,ym,其中隐层单元的径向基函数为f(x)=exp[-(X-2222Ci)öQ](i=1,2,⋯,r)(1),exp[-(X-Ci)öQ]为隐层的径向基函数,在此表达式中,X=(x1,x2,⋯,xn)表示输
6、入向量,图1RBF网络的拓朴结构图Ci表示隐层第i个神经元的径向基函数的中心,且Ci=(c1,c2,⋯,cr),也是n维向量,Q表示该径向基函数的宽度。图中输入层单元与隐层神经元之间的连接权值为1,而隐层神经元与输出层单元之间的连接权值为wij。收稿日期:2002-09-03作者简介:王英健(1958—),男,副教授,主要研究方向:信号与图像处理、智能控制;亓雪莲(1977—),女,硕士,主要研究方向:信号与图像处理;唐贤瑛(1940—),男,教授,主要研究方向:模式识别与计算智能。第21卷第4期王英健等:基于改进自构形学习算法的RBF网络结构优化17构造一个RBF网络是非常麻烦
7、的,不但隐层各神经元中心难以确定、隐层单元与输出层单元之间的连接权值难以确定,而且这其中的计算量也非常大,如果初始时隐层神经元的数目取的不好会造成权值训练阶段不收敛。权值不能确定,所以,隐层神经元的数目该取多少合适是很难确定的,取小了,权值训练过程不可能收敛,取大了,会产生过拟合现象,因此RBFNN的隐层神经元数目对整个网络的性能和效率有着直接的影响,即使整个RBFNN构造好了,也不是每个神经元都对网络的贡献很大,有些神经元输出功能相似,有些对样本输出的反映不敏感,即对网络的输出