速度可调节的粒子群算法训练bp神经网络

《速度可调节的粒子群算法训练bp神经网络》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、第38卷增刊1中南大学学报(自然科学版)Vol.38Suppl.12007年8月J.Cent.SouthUniv.(ScienceandTechnology)Aug.2007速度可调节的粒子群算法训练BP神经网络吴文佳，宋晓峰(南京航空航天大学自动化学院，江苏南京，210016)摘要：为解决基于粒子群优化算法(PSO)的BP网络训练算法(PSO-BP)易陷入局部极小值，不能有效提高训练精度等问题，本文提出了一种速度可调节的粒子群算法—AVPSO算法，并将其应用到BP网络的训练中，构造了基于AVPSO的BP网络训练算法AVPSO-BP，通过Iris分类问题，与PSO

2、-BP算法及BP算法进行了对比。实验结果表明：AVPSO-BP不仅在一定程度上克服了PSO-BP易于陷入局部极小值的问题，提高了网络的预测能力和稳定性，而且在一定程度上降低了BP网络对参数选择的敏感性。关键词：粒子群优化算法；BP神经网络；分类问题；速度可调中图分类号：TP183文献标识码：A文章编号：1672-7207(2007)S1−0047−05TrainingBPneuralnetworkusingadjustable-velocityPSOWUWen-jia,SONGXiao-feng(CollegeofAutomationEngineering,Nan

3、jingUniversityofAeronauticsandAstronautics,Nanjing210016,China)Abstract:DuetothelimitationofPSO-BPthatthealgorithmtendstoconvergetolocaloptima,andfailstoimprovethetrainingperformanceeffectively,anoveladjustable-velocityparticleswarmoptimizationisproposedinthispaper,andisappliedtoBPneu

4、ralnetworktrainingwhichcalledAVPSO-BP.BysolvingIris-classificationproblem，andcomparingwithPSO-BPandBP,theresultshowsthatAVPSO-BPalgorithmiscapableofescapinglocaloptima,performsbetterinaccuracy,stability,andalsoitcanreducethesensitivitycausedbyBPnetworkparameterstoacertainextent.Keywor

5、ds:particleswarmoptimization;BPneuralnetwork;classification;adjustable-velocity粒子群优化算法(PSO)是一种新兴的优化技在着不完善性，因而基于PSO的BP网络训练算法[1−4]术，其思想来源于人工生命和进化计算理论，目(PSO-BP)也常陷入局部极小值，且训练中不能及时根前已成为广泛应用的优化工具，训练神经网络就是其据全局误差的变化来调整训练策略，导致预测效果很重要应用之一。误差反向传播算法(Backpropagation，难继续提高，甚至出现“停滞”现象。[5]BP)是一种训练前馈神

6、经网络权值和阈值的算法，为解决PSO-BP的上述问题，本文作者提出一种速它对初始权向量敏感，易于陷入局部极小值，收敛速度可调节的PSO算法(Adjustable-velocityparticle度慢，且参数选择具有较大不确定性，训练效果不稳swarmoptimization,AVPSO)，并将其应用于训练BP定常出现“过学习”等问题。网络，通过Iris分类问题，与PSO-BP算法及BP算法进针对BP算法的诸多缺陷，许多学者将PSO与之[6−8]行了对比，实验结果证明AVPSO算法不仅在一定程度结合，先利用PSO算法来训练BP网络的初始权向量，再进行误差的反向传播；

7、这种方法较大程度的提上克服了PSO-BP易于陷入局部极小值的问题，而且还高了网络的预测能力，但由于基本PSO算法自身还存提高了网络的稳定性和可信度。收稿日期：2007−04−20作者简介：吴文佳(1984−)，女，甘肃天水人，硕士研究生，从事生物医学信息智能处理技术研究通讯作者：吴文佳，女，硕士研究生；电话：13814102641;E-mail:wuwenjia@nuaa.edu.cn48中南大学学报(自然科学版)第38卷阈值θ(一般取1%~5%)，则本次位置更新被取消，且当前速度被乘以一个减速度因子ρ(0＜ρ＜1)。1算法介绍2)适应值更新后减少了，则本次的位置

8、更新被接受