浅析bp神经网络算法的改进和优化

《浅析bp神经网络算法的改进和优化》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、技术平台科科技经济市场技经济市场浅析BP神经网络算法的改进和优化储琳琳郭纯生（防灾科技学院，北京101601）摘要：本文简要介绍了BP神经网络的缺点，着重强调了BP神经网络的算法改进，并且，利用Matlab仿真了各种改进算法的学习速度，从结果看改进后的BP神经网络能较好地解决针BP算法学习速度慢的缺点。关键词：神经网络;BP算法;学习速度中图分类号：TN430文献标识码：B1BP算法的缺点最小值点，但是这个碗的表面凹凸不平的，因而在对其进行训练虽然神经网络模型已成功应用于模式识别、函数逼近、时间的过程中，可能陷入某一小谷区，而这一小谷区

2、产生一个局部最序列预测等领域。并且BP网络也是目前应用最为广泛的一种小值，由此点向各个方向变化均使误差增加，以至于使训练无法神经网络模型，它具有思路清晰，结构严谨，可操作性强等优点。逃出这一局部最小值。但是由于BP学习算法仅改变网络的连接值和阀值，不改变网为了解决BP网络训练的以上缺点，人们提出了多种有益络的拓扑结构，因此BP网络在处理具体问题时还存在如下问的改进。改进方法主要有两类：第一类是基于启发式学习方法的题[1]：改进算法：如附加动量的BP算法、自适应学习率BP算法、弹性1.1网络的麻痹现象。在网络训练过程中，加权调得较大可BP

3、算法等；第二类是基于数值优化的改进算法：如共扼梯度法、能迫使所有的或大部分节点的加权和输出较大，从而操作在S拟牛顿法和Levenberg-Marquardt(LM)法等。这些方法在不同程压缩函数的饱和区，此时函数在其导数非常小的区域，即函数的度上提高了学习速度，加快了网络的收敛，避免陷入局部极小值[2][3]导数值很小或趋近0，由于在计算加权修正量的公式中，这使得。调节几乎停顿下来，通常为了避免这种现象，将训练速率减小，2各种改进算法的学习速度的比较但又增加了训练时间。在Matlab6.5中，通过调用newff实现网络的创建，然后调用1

4、.2网络学习收敛速度比较慢。由于BP算法的学习复杂性函数train对所创建网络newff进行训练。设定系统总误差为是样本规模的指数函数，如果网络规模较大或学习样本较多时，0.01，步长为0.02，网络训练2000次，或直到满足性能要求时停往往需要很长的学习时间，甚至学习无法完成，这个主要由于学止训练，否则增加训练次数。表1给出几种算法收敛速度的比习速率太小所造成的；可采用变化的学习速率或者自适应的学较：表中的数据均为6次平均值。习速率加以改进。表1启发式学习方法的收敛速度比较1.3易陷入局部极小值。BP算法可以使网络权值收敛到一个解，但

5、它并不能保证所求解为误差超平面的最小解，很可能是局部极小解；这是因为BP算法采用的是梯度下降法，训练是从某一起点沿误差函数的斜面逐渐达到误差的极小值，对于复杂的网络，其误差函数为多维空间的曲面，就像一个碗，其碗底是!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!均取如（13）的三角隶属度函数。本文应用模糊控制的基本理论和方法建立的模糊控制模根据建模步骤中的第二步建立规则库，得模糊规则如下表：型，与用经济学和统计学原理所建立的模型相比较，可以更简单表2：模糊规则方便地对一类具有模糊性相关因素

6、的经济现象进行比较准确的预测。模糊控制充分考虑了专家的知识经验，对具有模糊因素的系统具有其它控制无法比拟的优越性。随着模糊控制理论的发展与完善，模糊控制在自然科学和工程实践中也将得到越来越广泛的应用。（注：表中黑体的规则是由数据对生成，其它来自专家经验）参考文献：现已知2008年该商品的广告促销费为7789百万美元，信[1]RobertS.pindyckDanielL.Rubinfeld.EconometricModeland誉评价为高，则根据本文建立的模糊控制预测模型,应用MatlabEconomicForecast.[M].中国机械

7、工业出版社,1981.[2]Ramu.Ramanthan.应用经济计量学[M].中国机械工业出版社.[6]编程计算2008年的销售收入为79998百万美元。经调查知[3]王立新.王迎军译.模糊系统与模糊控制教程[M].清华大学出版社,2008年该商品真正收入为80853，相对误差为1.06％，易见预测2003.结果比较好。[4]杨纶标,高英仪.模糊数学原理及应用[M].华南理工大学出版社,2003.注：本文为了说明所设计模糊控制模型如何工作，为简便起[5]Xiao-JunZengandMadanG.Singh.Approximation

8、TheoryofFuzzy见，所选实例考虑因素较少，在具体运用该模型进行经济预测System—SISOCase[J].IEEEtransactionsonfuzzysystemsvol2No.2时，可考虑更