资源描述:
《RBF神经网络的混合结构优化算法.pdf》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、第28卷第4期仪器仪表学报Vol128No142007年4月ChineseJournalofScientificInstrumentApr120073RBF神经网络的混合结构优化算法112赵志刚,缪凯,吕慧显(1青岛大学信息工程学院青岛266071;2青岛大学自动化工程学院青岛266071)摘要:本文改进了递归正交最小二乘(ROLS)算法的停止条件,并用改进的ROLS算法优选RBF神经网络中隐单元的个数;借用细菌群体趋药性(bacterialcolonychemotaxis,BCC)算法的思想来确定RBF神经网络隐层神经元的控制参数;把改进的ROLS
2、算法和BCC算法相结合(ROLS2BCC算法),来全结构优化RBF神经网络,使RBF网络不但可以得到合适的结构,同时也可以得到合适的控制参数。实验结果表明,本文算法的优化效率高,优化后RBFNN的结构小,并且提高了RBFNN的泛化能力。关键字:RBF神经网络;细菌群体趋药性算法;ROLS算法中图分类号:TP183文献标识码:A国家标准学科分类代码:520.60Hybridstructureoptimizationalgorithmofradialbasisfunctionneuralnetwork112ZhaoZhigang,MiaoKai,LvHu
3、ixian(1CollegeofInformationEngineering,QingdaoUniversity,Qingdao266071,China;2CollegeofAutomationEngineering,QingdaoUniversity,Qingdao266071,China)Abstract:Inthispaper,thestopconditionforrecursionorthogonalleastsquare(ROLS)algorithmisimproved,andtheoptimalnumberofhiddenneuronsi
4、nRBFNNischosenusingthisimprovedROLSalgorithm.Thethoughtofbac2terialcolonychemotaxis(BCC)algorithmisappliedtodeterminethecontrolparametersofthehiddenneuronsinRBFneuralnetwork.TheimprovedROLSalgorithmiscombinedwiththeBCCalgorithm,i.e.ROLS2BCCalgo2rithm,soastooptimizetheoverallstr
5、uctureofRBFNN(includingobtainingtheappropriatestructureandtheappro2priatecontrolparameters).TheexperimentalresultsshowthattheROLS2BCCalgorithmhasagoodoptimizationper2formance.Furthermore,theRBFNNoptimizedbyROLS2BCCalgorithmhasasmallerstructure,andthegeneraliza2tionabilityofRBFN
6、Nisimproved.Keywords:RBFneuralnetworks;bacterialcolonychemotaxisalgorithm;ROLSalgorithm参数却没有系统的规律可循。在前馈神经网络中,结构1引言的大小很大程度上影响了网络的泛化能力。如果网络的结构过大,网络的自由度相对于训练样本的自由度过小,径向基函数神经网络(RBFNN)由于具有非线性逼那么它的泛化能力就会下降。如果网络结构过小,会导近能力强、网络结构简单、学习速度快等优点,因而被广致网络在训练时找不到合适的参数,也就是网络得不到[122]好的映射模型,同时网络的收
7、敛速度也会受到重大影响。泛应用于函数逼近、模式识别、预测和控制等领域。RBFNN属于3层网络结构(见图1),分别是输入层、隐所以说,网络结构大小的选择对前馈神经网络来说,是一层和输出层。其中输入层到隐层是非线性映射,通过隐个需要解决的重大问题。文献[3]中使用了递归正交二单元实现;隐层到输出层是线性映射,即为隐单元输出值乘法(ROLS)算法来优化网络的结构,这种方法速度快、[1]效率高,但对多极值问题容易陷入局部极小点。本文提出的加权和。然而,有效地确定RBF神经网络的结构和收稿日期:2006204ReceivedDate:20062043基金项目:
8、国家自然科学基金(60602040)资助项目第4期赵志刚等:RBF神经网络的混合结构优化算法651TT了一种