径向基神经网络训练算法及其性能研究

《径向基神经网络训练算法及其性能研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、中国石油大学（华东）硕士学位论文径向基神经网络训练算法及其性能研究姓名：郑明文申请学位级别：硕士专业：计算机应用技术指导教师：刘新平20090501摘要在众多的神经网络模型中，径向基函数神经网络(RBF神经网络)以其网络设计采用原理化方法，结构简单并且具有坚实的数学基础等多种优点而广泛应用于模式识别、函数逼近、非线性系统建模、时序分析等领域。本文详细论述了RBF神经网络的结构和原理，并且对RBF神经网络的多种学习算法进行了深入的研究，主要工作如下：(1)对RBF神经网络现有的算法进行了分类与分析，对其中的某些算法设计了仿真实验

2、，理解了各类学习算法的工作原理以及它们各自的优缺点，为下一步的工作奠定基础。(2)从非线性回归的角度深入分析研究了RBF神经网络的泛化理论，对径向基神经网络的逼近误差和泛化误差进行了理论推导并且得到了一些有用的结论，在某些情况下可以用来指导径向基神经网络结构的确定。(3)我们知道，对RBF神经网络的训练过程实际上就是确定隐层结构和连接权值的过程。本文通过对已有算法和理论的深入研究与分析，提出了三种改进的RBF神经网络训练算法，分别是：①基于Kohonen网络与OLS算法的数据中心选择算法。本算法利用Kohonen竞争网络对训练

3、样本集进行了筛选，解决了传统的OLS算法将整个训练样本集作为候选子集而导致的正交化过程计算量惊人，算法效率非常低的缺点。②基于密度法的数据中心选择算法。本算法利用统计学中的密度法对训练样本集进行分类，避免了人为的指定类别数而导致的分类结果盲目性太大的缺陷。③基于改进的APC．III算法的数据中心选择算法。本算法根据样本的分布情况采用动态的数据中心，而原始的APC．III算法则采用统一的数据中心，这在数据分布不均匀时并不合适。对上面三种改进的算法分别设计了仿真实验，验证了三种算法的有效性。关键词：径向基函数，隐层结构，数据中心，

4、训练算法，函数逼近TheTrainingAlgorithmandPerformanceStudyofRadialBasisFunctionNeuralNetworkZhengMingWen(ComputerApplicationTechnology)DirectedbyAssociateProf．LiuXinpingAbstractAmongvariousneuralnetworkmodels，RadicalBasisFunctionNeuralNetwork0U3FN}0boastsforitsapplicationofth

5、eprinciplemethod，simplest八lcnlreandasolidmathematicalbase，SOitiswidelyappliedinpatternrecognition，functionapproximation,nonlinearsystemsmodel，andtiminganalysis．ThispaperspecifiesthestructureandprincipleofRBFNNandmakesailin—depthresearchondifferentmethodsofitsalgorit

6、hmasfollows：(1)AftercategorizingandanalyzingtheexistingalgorithmsofRBFNN，designingsomesimulationexperimentstoseveralalgorithms，thepaperworksoutthebasicprinciplesofvariousalgorithmsandtheiradvantagesrespectively,thuslayingafoundationforthefollow—up．(2)Fromtheperspect

7、iveofnon-linearregressionin—depthanalysisofgeneralizationtheoryofRBFNN，thepapermakesatheoreticaldeductiononapproximationerrorandgeneralizationerrorofradicalbasicneuralnetwork，andthendrawssomeusefulconclusionswhich，undercertaincircumstances，maybeusedasaguidelineincon

8、firmingradicalbasicneuralnetwork．(3)AsisknowntoUS，thetrainingprocessofRBFNN，infact，conformstotheprocessofconfirmingthehiddenlayerstructure