基于蚁群算法的多层前馈神经网络.pdf

《基于蚁群算法的多层前馈神经网络.pdf》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、第35卷第7期哈尔滨工业大学学报VoI.35No.72003年7月JOURNALOFHARBININSTITUTEOFTECHNOLOGYJuIy，2003基于蚁群算法的多层前馈神经网络洪炳熔，金飞虎，高庆吉（哈尔滨工业大学计算机科学与技术学院，黑龙江哈尔滨150001，E-maiI：fhjin@0451.com）摘要：反向传播算法是神经网络中应用广泛的一种多层前馈神经网络模型.但算法有求解精度低、搜索速度慢、易于陷入极小的缺点.蚁群算法是一种新型的模拟进化算法，有正反馈、分布式计算、启发性收敛等特性.这些特性

2、使得解题过程加快，易于实现分布式计算.将蚁群算法和神经网络相结合起来，实现了非线性模型的辨识问题及倒立摆的控制.仿真实验表明：用蚁群算法训练神经网络，可兼有神经网络广泛映射能力和蚁群算法快速全局收敛的性能.关键词：蚁群算法；神经网络；系统辨识；倒立摆系统中图分类号：TP39；TP242.3文献标识码：A文章编号：0367-6234（2003）07-0823-03Multi-layerfeedforwardneuralnetworkbasedonantcolonysystemHONGBing-rong，JINFe

3、i-hu，GAOOing-ji（SchooIofComputerScienceandTechnoIogy，HarbinInstituteofTechnoIogy，Harbin150001，China，E-maiI：fhjin@0451.com）Abstract：BackPropagationisakindoffeedforwadneuraInetworkswideIyusedinmanyareas，butithassomeshortcomings，suchasIow-precisionsoIutions，sIo

4、wsearchspeedandeasyconvergencetotheIocaImini-mumpoints.AntcoIonysystemisanoveIsimuIatedevoIutionaryaIgorithm.Antsystemhaspositivefeedback，distributedcomputation，anduseofaconstructivegreedyheuristic.Thesecharacteristicsaccountforrapiddis-coveryofgoodsoIutions

5、andeasytoreaIizedistributedcomputation.ThecombinationofantsystemwithneuraInetworkisadoptedsothatanonIinearmodeIcanbeidentifiedandaninvertedpenduIumcontroIIed.SimuIa-tionresuItsshowthatextensivemappingabiIityofneuraInetworkandrapidgIobaIconvergenceofantsystem

6、canbeobtainedbycombiningantsystemandneuraInetwork.Keywords：antcoIonysystem；neuraInetwork；systemidentification；invertedpenduIumsystem神经网络具有复杂的非线性映射能力、函数分配问题、job-shop调度问题，取得了一系列较［2，3］逼近和大规模并行分布处理能力.神经网络中应好的实验结果.用最普遍的是多层前馈网络模型，其中BP算法本文将蚁群算法和神经网络结合起来，可兼因其依据坚实、推导

7、过程严谨、通用性强而得到了有神经网络的广泛映射能力和蚁群算法的快速、广泛的应用.由于BP学习算法采用的是沿梯度全局收敛以及启发式学习等特点，在某种程度上下降算法，所以，训练通常需要很长时间才能收避免了神经网络收敛速度慢，易于陷入局部极小敛，而且不可避免地会遇到局部极小的问题.点的问题.利用蚁群算法学习神经网络的权值，蚁群算法（antcoIonysystem）是最近几年才将二者结合起来可解决非线性模型的辨识问题及提出的一种新型的模拟进化算法，它是由意大利倒立摆的控制问题.［1］学者M.Dorigo等人首先提出来的

8、，称之为蚁群1基于蚁群算法的神经网络训练系统，并成功应用于一些实际问题，如TSP问题、大多数神经网络都使用梯度下降法进行训收稿日期：2002-09-17.练，例如反向传播算法（BP）.这种算法具有收敛基金项目：国家高技术研究发展计划资助项目（2001AA422270）.［4］时间长、易于陷入局部极值等缺陷.蚁群算法作者简介：洪炳熔（1937-），男，博士，教授，博士生导师.·824·哈