浅析一种新型优化算法——学习算法

《浅析一种新型优化算法——学习算法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、浅析一种新型优化算法——学习算法摘要:从优化算法应该具有的共性出发,提出一种全新的算法——学习算法(LA)。该算法记录历史最优解和当前最优解这两组关键历史信息,然后让当前解向这两种最优解聚集(即学习的过程);同时为了不放弃其他区域的搜索,让当前解的一部分完全随机地被重置。该算法原理简单,可调参数少且各参数对算法效能的影响易于掌控。在多最优函数以及复杂函数的最小化测试中,通过与GA、PSO的比较,发现LA确实是一种有效的优化算法,其优化效率并不低于现有算法。数值实验还表明,LA在多最优解问题的寻优中相对GA和PSO具有非常明显的优

2、势。　　关键词:学习算法;遗传算法;微粒群算法　　　　Newoptimizationalgorithm:learningalgorithm　　　　HEYi,ZHAOXiang,HUANGKa-ma　　(SchoolofElectronics&Information,SichuanUniversity,Chengdu10064,China)　　Abstract:Thispaperpresentedanewalgorithm:learningalgorithmbasedthecommonnessofoptimizationalgor

3、ithms.Thisalgorithmrecordedthehistoricaloptimalsolutionandthecurrentoptimalsolution,andthenletthecurrentsolutionconvergetothesetwooptimalsolution(thatwas,thelearningprocess),atthesametime,inordernottogiveupthesearchforotherregions,madeapartofcurrentsolutionbereplaced

4、algorithmhadsimpletheoryandsmalladjustableparameters,andtheeffectforeveryparametertoalgorithmwaseasytocontrol.Inthetestofmulti-optimumfunctionandminimizationofcomplexfunction,foundthatcomparedwithGAandPSO,LAwasindeedaneffectivealgorithm.Numericalexperimentsalsoshowth

5、atLAhasaverydistinctadvantageinmulti-optimumproblemscomparedwithGAandPSO.　　Keywords:learningalgorithm(LA);geneticalgorithm(GA);particleswarmoptimization(PSO)　　0引言　　在最近二十年中,各种各样的优化算法得到了飞速的发展并成功运用于各种领域,这些算法模拟不同的生物或物理现象,使各种人工系统具有优良的自适应能力和优化能力。例如,遗传算法(GA)[1,2]模拟生物的进化过程、微

6、粒群算法(PSO)[3]模拟鸟类群体行为、蚁群算法(antcolonyoptimization,ACO)[4]模拟蚂蚁觅食行为、模拟退火算法(simulatedannealing,SA)[5]模拟高温物体的退火过程等。　　微粒群算法、蚁群算法具有原理简单、容易实现且初期收敛迅速的优点。但是,以PSO为例,算法在后期很容易陷入局部最优,特别是在求解高维多峰问题上,形成所谓的“早熟”现象,这也是PSO算法的最大缺点[6]。而遗传算法虽然在早期表现出较慢的收敛速度,但是在后期却拥有比PSO更好的全局搜索性能。　　　　也有学者对传统的

7、这些算法作出了一些改动,使算法在某些方面的特性得到了一些改善。比如在PSO算法中,采用线性递减[7]和模拟自适应方法[8]动态调整惯性因子,提高了算法的全局搜索能力和搜索精度;对PSO算法加入收缩因子以改善其收敛性[9],借鉴遗传算法中的自然选择机制,改善局部搜索能力[10];在遗传算法中加入小生境模型[11],维护群体多样性,加大多峰搜索力度;采用最优保存策略,改善收敛速度。　　然而,无论上述优化算法是在模拟何种自然现象,也无论它们得到何种改进和优化,它们的效能和优化机理都必须从优化问题本身的角度得到解释,即它们为什么一方面可

8、以向最优解收敛,而另一方面又可以避免陷入局部最优?它们在绝大多数问题中的寻优效率为什么会高于完全随机(盲目)的搜索?这是因为它们实际上都是在利用历史搜索的信息来启发式地指导当前搜索,从而相应地完成当前解的更新。具体而言,就是它们通过历史搜索信息来推测最优解存在的