粒子群算法优化混合核函数SVM及应用.pdf

《粒子群算法优化混合核函数SVM及应用.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、粒子群算法优化混合核函数SVM及应用‘崔国恒1李京书1张军2(1．海军工程大学武汉430033)(2．空军装备研究院北京100000)摘要相比于单一核函数支持向量机，混合核函数的引入使支持向量机多了一个可调参数，而这个可调参数一般是根据人为随机选取或者依据经验选取，并不能保证参数最优。针对此问题，提出了以惩罚系数、核函数参数和可调参数为寻优对象，用动态粒子群对其进行寻优的方法，以获取最优参数组合，从而提高支持向量机的分类性能。通过对UCI数据库中的IRIS数据集进行分类实验，结果表明：相比于单一核函数支持向量机，混合核函数支持向量机泛化能力更好，分类精度更高；动态粒子群

2、算法能够搜索到更优的支持向量机参数。关键词支持向量机；动态粒子群；核函数参数；寻优；分类精度中图分类号TP393DOI：10．3969／j。issn．1672—9730．2016．12．011ParticleSwarmAlgorithmtoOptimizetheKernelFunctionSVMandItsApplicationCUIGuohen91LIJingshulZHANGJun2(1．NavalUniversityofEngineering，Wuhan430033)(2．EquipmentResearchDepartmentofAirForce，Beijing1

3、00000)AbstractComparedtOsinglekernelfunctionofsupportvectormachine(SVM)，theintroductionofthemixedkernelfunctionofSVMhasonemoreadjustableparameters．AndtheadjustableparameterisusuallyselectedonthebasisofhumanOrexperience，whichdoesnotguaranteetheoptimalparameters．InordertOfindtheoptimalpara

4、metersandimproveabilityofclassificationofSVM，theparametersofthemixedkernelofSVMareselectedbydynamicparticleswarmoptimization．TheclassificationexperimentresultsshowthatcomparedtoasinglekernelofSVM．thehybridkernelofSVMhasbettergen—eralizationabilityandhigherclassificationaccuracy，dynamicpa

5、rticleswarmalgorithmcansearchbetterparametersofSVM．KayWordssupportvectormachine，dynamicparticleswarm，kernelfunctionparameter，optimizing，classificationae—curacyCI镐sNumberTP3931引言支持向量机(SupportVectorMachine，SVM)是统计学习理论的具体体现，统计学习理论是从小样本出发的学习理论，最早是由Vapnik于20世纪60年代提出的，自20个世纪90年代逐渐受到越来越多的关注[1]。

6、一般的机器学习如神经网络，在训练的过程中目标函数通常遵循最小化经验风险，但真实风险不一定最小，这也是经验风险最小化准则的弊端。而SVM放弃了传统的经验风险最小化准则，采用的是结构风险最小化(StructureRiskMinimization，SRM)，SVM对于问题的求解实际上是求一个二次规划问题的最优解。在SVM中，采用核函数构建非线性映射很好地解决了线性不可分问题[2]。SVM已经在如基因分析、手写体数字识别、人脸识别等很多领域取得了成功应用[3

7、。SVM作为一种较为新颖的机器学习方法，目前存在的主要问题是核函数的选取和参数的优化。对于一些数据集，不同的核函数选取方

8、式对分类结果的影响较为相近；而对另一些数据集来说，选取不同的核函数对分类结果的影响很大。对于不同的数据集，需要选取什么样的核函数并没有统一的*收稿日期：2016年6月7日，修回日期：2016年7月19日作者简介：崔国恒，男，博士，讲师，研究方向：无线电技术及研究。!!!!竺簦!!塑舰船电-7：工程47————————————————————————————————————————_二———————一．一解决方法。另外，SVM参数的选取也没有确定的参考标准。因此，核函数的选取以及参数的优化对提高SVM性能就显得尤为重要。粒子群(Partic