改进bp神经网络探究及应用

《改进bp神经网络探究及应用》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、改进BP神经网络探究及应用摘要：人工神经网络具有强大的非线性映射能力，已经被应用于模式识别、智能控制、图像处理以及时间序列分析等各种领域。本文针对BP算法的不足，提出了BP算法的启发式改进，通过对遗传神经网络模型及其算法进行分析和研究，针对遗传算法的主要缺陷介绍了一种常用的改进类型。Abstract:Theartificialneuralnetworkhasastrongnonlinearmappingability,hasbeenappliedtovariousfieldssuchaspatternrecognition,intelligentcontrol,imagepr

2、ocessingandtimeseriesetc.,inthispaper,theheuristicimprovementofBPalgorithmwasproposedaimedatthedeficienciesofBPalgorithms,andacommontypeofimprovementwasintroducedaimedatthemaindrawbackofthegeneticalgorithmthroughanalysisandresearchongeneticneuralnetworkmodelanditsalgorithm・关键词：BP算法；神经网络；遗传算

3、法；改进Keywords：BPalgorithm；neuralnetwork；geneticalgorithm；improvement中图分类号:TP39文献标识码：A文章编号:1006-4311(2012)34-0209-021BP神经网络1.1BP神经网络概述在神经网络模式识别系统中，应用最广泛的要算是BP网络，它是基于误差反向传播算法的一种具有非线性连续转移函数的多层前馈网络。由于多层前馈网络的训练经常采用误差反向传播算法，人们常把多层前馈网络直接称为BP网络。BP算法可以小结为以下三个步骤：①通过网络输入反向传播：aO=pam+l=fm+l(Wm+lam+bm+1),

4、m=0,1,…，MTa=aM②通过网络将敏感性反向传播：sm=Fm(nm)(Wm+1)Tsm+1,m=M-1,…，2,1③使用近似均方误差的BP算法更新权值和偏置值：Wm(k+1)=Wm(k)-asm(amT)Tbm(k+1)=bm(k)-asm1.2BP神经网络存在的问题尽管BP网络有很多显著的优点，但也存在着一定的局限性。其主要问题如下：①随着训练样本维数的增大，使收敛速度缓慢，从而降低学习效率。②从数学角度上看BP算法是一种梯度最速下降法，这就可能出现局部极小值的问题，而得不到全局最优。①网络中隐节点个数的选取缺乏理论指导，尚无明确的定义。由于BP神经网络存在局部性，因

5、此利用BP网络进行模式识别时，所得网络模型的参数容易陷入局部极小，因此需要对:BP神经网络容易陷入局部极小的缺陷进行改进。2遗传算法1.1遗传算法概述遗传算法(GeneticAlgorithmGA)正是以达尔文的自然进化论与遗传变异理论为基础的求解复杂全局优化问题的仿生型算法。该算法摒弃了传统的搜索方式，模拟自然界生物进化的过程，采用人工进化的方式对目标函数空间进行随机导向优化搜索。遗传算法求解问题的基本思想是：从问题的解出发的，将问题的一些可行解进行编码，这些已编码的解即被当做种群中的个体，每个个体实际上是染色体带有特征的实体；个体对环境适应能力的评价函数就是问题的目标函数

6、；模拟遗传学中的杂交、变异、复制来设计遗传算子，用优胜劣汰的自然选择法则来指导学习和确定搜索方向；对由个体组成的中却进行演化，利用遗传算子来产生具有更高平均适应值和更好个体的种群，经过若干代后，选出适应能力最好的个体，它就是问题的最优解或满意解［1］。2.2遗传算法的缺陷及改进遗传算法作为一种通用性好、鲁棒性强的新型优化搜索算法，为求解很多困难的问题打开了局面，但是在实际应用中，存在着：①早熟问题；②局部搜索能力差；③控制参数难以确定缺陷。针对上述问题，目前已经提出的一些改进方法，概括起来主要有如下几种类型：①改进遗传算法的使用技术或者组成成分，如选用适合问题特性的编码技术、

7、优化控制参数等。②采用混合遗传算法，即融合一些优化方法来提高遗传算法运行效率。如将遗传算法和模拟退火算法、爬山法等方法结合的混合遗传算法。③采用非标准的遗传操作算子，如记忆算子、顶端增强算子等。④采用动态自适应技术，在遗传过程中自适应的调整控制参数和编码精度，在保持种群多样性的同时保证遗传算法的收敛。⑤采用并行遗传算法。3BP算法与遗传算法的结合BP神经网络的学习是基于梯度下降法的，由于该算法搜索速度缓慢以及对初始值的依赖，导致存在局部最小值问题。而遗传算法作为一种具有较强全局搜索能力的算法，其搜索能够