前向神经网络学习理论

《前向神经网络学习理论》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、摘要摘要本文首先阐述了前向神经网络的结构以及经典的反向传播学习算法，尤其是对RBF网络的各种学习算法进行了比较系统的分析研究，然后又介绍了进化计算的思想和算法框架，并把这种算法思想引入到BP网络学习思想中去对BP算法进行了改进。由于前馈神经网络结构和学习算法的多样性以及对原有训练样本的必然依赖性的缺点，一直没有一种通用的增长学习算法。本文利用前馈网络的结构与权值信息重新生成样本来代表学习过的旧样本，提出了一种新的通用增长学习算法。同时为了解决新旧知识可能发生的冲突问题，对重新生成的代表样本进行了评估。接着利用RBF网络结构特点与模式识别思想的一致性提出了

2、一种改进的RBF网络，并系统的介绍了新网络的结构和相应的学习算法，并对有关算法和结果进行了理论分析和证明。最后本文对提出的学习算法和新的网络结构进行了仿真验证，取得了良好的效果。关键词：学习算法增长学习神经网络RBF网络进化策略垒!!!型——AbstractFirst．thepaperingodueesthesturetureoffeedforwaldneuralnetworkandclassicalback·propagation(BP)learningalgorithm，thensystematicanalysisandresercharemadet

3、othevariouslearningmethodsofRBFNN(RadicalBasisFunctionNeuralNetwork)．neideaandalgonthrnframeofevolutionstrategyarepresentedandintroducedtothelearningalgorithmofBPNeuralnetworktoimprovetheperformanceofit．Thereisnouniversaiincrementallearningalgorithmforallfeedfowardneuralnetworksb

4、ecauseofnotonlytheirvarifiesonⅡ1estuetureandlearningalgorithms．butalsotheirdependenceonformerlearninginstances．Auniversalincremental—learningmethodispresentedwithregeneratinginstancestorepresentall也epreviousinformationstoredinthenetbyusingtheinformationonthestructureandweights．To

5、solvetheproblemofconflictsbetweenoldmemoryandnewinstances，theregeneratedinstancesaleevaluatedbeforeincrementlearning．MakingUSeofconformitybetweenthestructureofI也附andtheideaofpatternrecognition．anewkindofI啦FnetworkisalsopresentedwithintroduingthestrucRtreandtherelevantlearningalgo

6、rithmofitsystematically．Thetheoreticalanalysisandproveofrelevantalgorithmsandconclusionsisalsoprovided．Intheend．thesimulationdemonstratesthegoodresultofthelearningalgorithmandthenewnetworkstructure．Keyword：LearningAlgorithmRBFNeuraiNetworkIncrementallearningNeuralNetworkEvolution

7、strategy引言神经网络是人们在模仿人脑处理问题的过程中发展起来的一种新型智能信息处理理论，它通过大量的称为神经元的简单处理单元构成非线性动力系统，对人脑的形象思维、联想记忆等进行模拟和抽象，实现与人脑相似的学习、识别、记忆等信息处理能力，神经网络在经历了60多年的曲折发展之后，在信息科学领域等许多应用方面显示了巨大的潜力和广泛的应用前景[54][55][56][57]。神经网络可以被看作借鉴人脑思想而设计的一种数学算法，讨论怎样用这些算法解决许许多多特定的问题，这是本文的核心指导思想。目前对神经网络特点的形成应归功于两个开拓者：Ramonyca3a

8、l[58】和Sherrington[591。他们提出了大脑是由不同的单元(神经元