论基于matlab语言的bp神经网络的改进算法

《论基于matlab语言的bp神经网络的改进算法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、[HJ-’@UH-(第’@卷第(期!52-(**)%$$]#FU>:$>;_(**)年)月论基于!"#$"%语言的%&神经网络的改进算法’(苏高利邓芳萍（’浙江省气象科学研究所，浙江杭州)’***+；(杭州市气象局，浙江杭州)’***,）摘要：针对标准%&算法存在的缺陷，本文给出了基于!"#$"%语言的%&神经网络几种改进的算法-阐述了各种%&算法的优化技术原理、优缺点，并就它们的训练速度和内存消耗情况作了比较-建议在多数%&神经网络训练时，先尝试使用$./.01.234!52675289算法，其次是%:;<算法或共轭梯度法以及=&=>&算法-关

2、键词：!"#$"%语言；%&神经网络；%&优化算法中图分类号：#&’,)文献标识码："文章编号：’**’4?’’（@(**(）*(4*’)*4*A!"#$%&’()*+,"-./01()*(/-/#,*"23-*),#$’4*5#$%6%7)/36%#8*)14./4%9*":2;<2.

3、05）2>4#)/0#：#H.JEPE059.9C.GCH29OHPE03HIG950852815OQR2HR5359EH05J3H2E9CP，GHP.PH8EIE.8%&5J3H2E9CPGE09C.!"#$"%’G0.725J0.9SH2QG9HHJ1HT52.3E/.0E09C.R5R.2-#C.G.CE3CR.2IH2P50O.5J3H2E9CPG52.8EGO7GG.8E09C.HR9EPEM59EH09.OC0E67.G508OHPR52.8SE9CGR..8508P.PH2K-:H2PHG9GE9759EH0G，9C.$./.01.234!526752895J3H2

4、E9CPEG58/EG.89H7G.IE2G9，9C.09C.%:;<5J3H2E9CP，H2H0.HI9C.OH0D7359.3258E.09P.9CH8G，H2=&=>&5J3H2E9CPEGOH0GE8.2.8-?%@8*)94：!"#$"%J503753.；%&0.725J0.9SH2Q；%RHR9EPEM59EH05J3H2E9CPG行处理、自适应自组织、联想记忆、容错鲁棒以及逼A引言近任意非线性等特性，在预测评估、模式识别、信号处理、组合优化及知识工程等领域具有广泛的应用［(WV］人工神经网络（"29EIEOE5JU.725JU.9SH2Q，"UU），-近年来，已有多

5、种"UU模型被提出并得以自从(*世纪V*年代=HG.01J599首次将单层感知器深入研究-其中，,*XW@*X的人工神经网络模型应用于模式分类学习以来，已经有了几十年的研究是采用前馈反向传播网络（%5OQ4&2HR5359EH0U.9Y［AW’*］，它是前历史-但是，由于!E0GQK和&5R.29指出单层系统的SH2Q简称%&网络）或它的改进形式局限性，并表达了对多层系统的悲观看法，在(*世向网络的核心部分，体现了网络最精华的部分-标纪?*年代对"UU的研究兴趣减弱-直至,*年代中准的%&网络是根据ZE82HS4LHII规则，采用梯度期=7P.JC529等重新阐述了反传训练方法’

6、，使得在下降算法，在非线性多层网络中，反向传播计算梯"UU领域的理论和应用研究开始在世界范围内重度-但%&网络存在自身的限制与不足，如需要较长新兴起-"UU是一种按照人脑的组织和活动原理而的训练时间、会收敛于局部极小值等，使得%&算法在实际应用中不是处处能胜任［V］构造的一种数据驱动型非线性映射模型，它具有并-收稿日期：(***4’(4(V作者简介：苏高利，男，’@?)年生，广东湛江人，工程师，硕士-万方数据第!期苏高利等(论基于4:;-:)语言的)*神经网络的改进算法#%#因此近十几年来，许多研究人员对其做了深入的研!*"!（"##）$%&’"!（"）#()’%&’究，提出了许

7、多改进的算法［!，"，##］，如使用动量项的!!I+()!#（#）加快离线训练速度的方法［#］、归一化权值更新技术其中"为训练次数，%&为动量因子，一般取I,J"左方法［##］、快速传播算法［#!］、!$!方法［#%］、扩展卡尔右，()为学习速率，是常数，*为误差函数,曼滤波法［#&］、二阶优化［#"］以及最优滤波法［#’］等(这种方法所加入的动量项实质上相当于阻尼本文讨论)*网络的改进算法有两类，一类是项，它减小了学习过程的振荡趋势，从而改善了收采用启发式技术，如附加动量法、自