基于改进蚁群算法的支持向量机模型选择算法

《基于改进蚁群算法的支持向量机模型选择算法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、基于改进蚁群算法的支持向量机模型选择算法高雷阜王飞赵世杰(辽宁工程技术大学优化与决策研究所，阜新123000)摘要考虑到蚁群算法存在易过早收敛、出现停滞现象、陷入局部极值等问题，提出拥有动态自适应信息素全局更新函数，同时将Alopex算法嵌入到蚁群局部搜索中形成改进蚁群算法算法(IACO)，并将算法应用于支持向量机模型选择。以UCI上标准库中的不同规模数据集进行数值实验，实验结果表明IACO算法优化的SVM分类模型具有较强的平均分类准确率和较好的算法稳定性。关键词蚁群算法信息素Alopex算法支持向量机模

2、型选择中图法分类号TP18文献标识码ADOI:10.3969/j.issn.1000-386x.2013.01.001SUPPORTVECTORMACHINEMODELSELECTIONBASEDONIMPROVEDANTCOLONYALGORITHMGaoLeifuWangFeiZhaoShijie(Instituteofoptimizationanddecision,LiaoningTechnicalUniversity,Fuxin123000,Liaoning,China)AbstractConsi

3、deringthattheantcolonyalgorithmhastheproblemofprematureconvergence,stagnationandlocalextremum,proposetheglobalupdatefunctionofdynamicadaptivepheromone,embedtheAlopexalgorithmintothelocalsearchofantcolonyalgorithmtoformtheimprovedantcolonyalgorithm(IACO),a

4、ndapplythealgorithmintoselectsupportvectormachinemodel.UsingdifferentscaledatasetsofUCIstandardlibrarytoexperiment,theresultsshowthattheSVMclassificationmodelhasstrongaverageclassificationaccuracyandgoodstabilityofthealgorithm.KeywordsAntcolonyalgorithmPh

5、eromoneAlopexalgorithmSVMModelselect高雷阜：基于改进蚁群算法的支持向量机模型选择50引　言支持向量机[1](SupportVectorMachines,SVM)是由V.Vapnik等人在1995年提出的一种机器学习方法，目前已经被广泛应用到解决分类和回归问题中[2,3]。的核参数和罚参数决定其性能的好坏但却选择缺乏理论指导，许多算法被用来优化参数如经验选择法、网格搜索法[4]，以及近几年成为研究热点的基于仿生学智能算法如鱼群算法[5]、粒子群算法[6-7]、蚁群算法[8

6、-9]以及多种智能算法的融合算法[10]等。智能算法相比于前两种算法省时省力，同时对初值不敏感、效率高，更适合求解参数优化问题。蚁群优化算法[11](AntColonyOptimization,ACO)凭借其独特的正反馈机制、较强的鲁棒性和并行处理能力被广泛地应用到支持向量机参数寻优中，但也存在易过早收敛、陷入局部最优[14]等问题。针对ACO中存在的这些问题，将动态自适应信息素全局更新函数和Alopex[12](Algorithmofpatternextraction,Alopex)算法耦合形成一种改进

7、蚁群算法(ImprovedAntColonyOptimization,IACO)。该算法构造了动态自适应信息素全局更新函数，让信息素随迭代次数动态变化，以平衡蚁群算法的正反馈机制，从而避免算法过早收敛或陷入局部极值。同时在寻优过程中将改进Alopex算法嵌入到IACO中以增强局部搜索性能，避免传统ACO中的停滞现象。最后将改进蚁群算法用于支持向量机模型选择中，并利用UCI中数据集进行数值实验以验证算法的有效性和可行性。1支持向量机理论支持向量机[13]是通过构造最优分割超平面对输入变量样本进行分类，当样本

8、线性可分的时候，以超平面为分界线，使得超平面的一侧为一类样本，另一侧为另一类样本。而对于线性不可分的样本，则是通过选择适当的核函数将样本数据映射到一个高维线性特种空间（一般为Hilbert空间）中，使其在该高维空间中线性可分，从而构造最优分类超平面，完成样本分类问题。对于训练样本集：，最优分类超平面对应二次规划问题：(1)引入Lagrange函数为：(2)其中。问题（1）的对偶问题为：收稿日期:2015-09-27。教育部高校