径向基函数神经网络的全监督算法

《径向基函数神经网络的全监督算法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第25卷第4期增刊仪器仪表学报2004年8月径向基函数神经网络的全监督算法‘韩敏郭伟王金城(辽宁省大连理工大学电子与信息工程学院大连116023)摘要径向基函数神络的学习过程一般分为两个阶段:非监督学习和监督学习阶段，分别调整网络的中心和权值。这里将网络的总体误差作为目标函数，以待求的所有参数作为变量，同时调整，构成全监督算法。为了提高收敛速度，采用共Of梯度法作为参数优化方法。通过混沌时间序列预测仿真证明，该算法具有良好的性能。关键词径向基函数网络、共扼梯度、、/夕、/少AnEntire一supe

2、rvisedAlogrithmofRBFNetworkHanMinGuoWeiWangJincheng(SchoolofElectronicandInformationEngineering,DalianUniversityofTechnology,Dalian116023,China)E-mail:minhan(aidlut.edu.cnAbstractThetraditionallearningalgorithmofaradialbasisfunctionnetworkisseparatedtw

3、ophases:unsuper-visedandsupervisedprocesses,calculatingRBFcentersandweightsrespectively.Definingnetworkerrorasopti-mumobjectivefunction，allparametersarelookedasfunctionvariables，andanentire-supervisedalgorithmisstudied.Tospeeduptheparametersadjustingpr

4、ocess,conjugate-gradientdecentalgorithmisemployed.Itisusedtochaotictimeseriespredictionandtheresultissatisfying.KeywordsRBFConjugate-gradientSupervised学习和监督学习两个过程，分别调整中心和权值。由于1引言调节中心时采用的是非监督算法，因此网络性能对初始值非常敏感，同时存在死节点问题「2〕。径向基函数(Radial-Basis-Function,RBF

5、)神经网考虑到网络最终的目标是使性能指标最小，这里络是一种性能良好的前向神经网络，相对于BP网络，提出一种全监督算法，即将学习过程合二为一，以网络它具有较快的学习速率，且不存在局部极小值的问题，的总误差作为目标函数，以待求的所有参数:网络中只要样本充足，无论系统是否为非线性都可以找到恰IL、宽度和权值作为被调变量，采用优化算法同时加以当的映射。因此，在许多领域，如函数逼近、数据挖掘、调整。一方面避免了网络中心对初始值敏感的问题，另系统预报等方面得到广泛的应用。一方面，相对于常规的两阶段算法具有更高的

6、分类精RBF网络的非线性映射能力体现在隐含层的基度[3]。函数上，而基函数的特性主要由函数的中心值确定，针为了避免同时调整所有的参数，当网络的规模增对学习数据恰当确定出网络的基函数中心，就可以提大时，耗用机时较多的问题「‘〕，这里采用共扼梯度法作高网络的非线性逼近能力「，〕。因此，围绕中心值的确为参数的优化方法，比梯度下降法下降速度明显加快，定，不少人提出了网络的参数的学习方法，其中最常见而且在逼近极小点时效果也更好，-fi]的是C一均值算法。该算法将网络的学习过程分非监督本文系国家自然科学基金资助

7、项目(60374064),第4期增刊径向基函数神经网络的全监督算法2RBF神经网络的理论基础3全监督算法RBF神经网络的产生具有很强的生物学背景。在笔者基于Mooky与Darken算法的基本思想提出人的大脑皮层区域中，局部调节及交叠的感受野是人了全监督算法。该算法的基本思路是将网络的所有参脑反应的特点。基于感受野这一特性，Moody和Dark-数调整过程作为一个监督学习的过程，同时加以调整，en提出了一种神经网络结构，即RBF网络[;。其结构以达到性能指标最小。如图1所示。网络输人层的节点将输人样本

8、直接送到为简化表达式，这里只讨论单输出即m=1时的隐含层，隐含层选取径向对称的非线性函数作为节点J清形。RBF网络的性能指标为:的激发函数，网络的输出通常是隐含层节点输出的线E;一粤(。;一YI)zi一1，2,n,p(4)性组合。文中假定网络三层的节点数分别为n,h和mo乙式中:0为第i个样本的期望值，Y、为第i个输人向量隐含层神经元的激发函数为:的实际输出值，P为样本数量。若将所有的待求参数，g;(x)=T}}x一c川/ai)i=1，2,n,h(1)式中:g;()是