基于高斯核的SVM的参数选择.pdf

《基于高斯核的SVM的参数选择.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、计算机系统应用http：llwww．c—S-a．org．cn2014年第23卷第7期基于高斯核的SVM的参数选择①王行甫，陈家伟(中国科学技术大学计算机学院，合肥230027)摘要：基于高斯核的支持向量机应用很广泛，高斯核参数的选择对分类器性能影响很大，本文提出了从核函数性质和几何距离角度来选择参数o，并且利用高斯函数的麦克劳林展开解决了参数a的优化选择问题．实验结果表明，该方法能较快地确定核函数参数o，且SVM分类效果较好，解决了高斯核参数。在实际应用中不易确定的问题．关键词：支持向量机；高斯核；参数选择：几何距离；麦克劳林展开ParameterSelecti

2、onofSVMwithGaussiankernelWANGXing—Fu，CHENJia—Wei(SchoolofComputerScience，UniversityofScience&TechnologyofChina，Hefei230027，China)Abstract：Suppo~vectormachinebasedonGaussiankernelhasbeenusedinmanyareas．TheparameterooftheGaussiankernelhasgreatimpactontheperformanceoftheclassifier．Thisp

3、aperproposesanapproachtochooseanoptimalparameterobasedonthepropertiesofthekemelfunctionandtheangleofgeometricdistance．Whatismore．wehavesolvedtheproblemoftheoptimaloptionoftheparameter6bymeansoftheMcLaughlinexpansionoftheGaussiankernelfunction．Theexperimentresultsindicatethatthismetho

4、dcallgetparameterGveryquicklyandcanachievehigheficiency．Thusthedificultyoftheestimationoftheparameterocanbesolvedbyourmethod．Keywords：suppo~vectormachine；Gaussiankernel；parameterselection；geometricdistance；McLaughlinexpansion1引言空间的结构由核函数决定，它设计的好坏直接影响到支持向量机(SVM)是90年代中期发展起来的基于分类效果．SVM通

5、过引入了核函数，有效地解决了分统计学习理论的一种机器学习方法，通过寻求结构化类中的线性不可分问题．SVM的理论研究主要以核函风险最小来提高学习机泛化能力，实现经验风险和置数方面的研究为主，包括核函数的构造和核函数的选信范围的最小化，从而达到在统计样本量较少的情况择．由于核函数构造的复杂性，目前对核函数的研究下，亦能获得良好统计规律的目的．通俗来讲，它是取得实质性进展的还是在核函数的选择上．一种二类分类模型，其基本模型定义为特征空间上的核函数的选择包括核函数类型的选择以及核函数间隔最大的线性分类器，即SVM的学习策略便是间隔参数的确定．目前，较常用的核函数主要有3

6、类：(1)线最大化，最终可转化为一个凸二次规划问题的求解．性核函数；(2)多项式核函数；(3)高斯核函数．其中，高SVM是Cortes和Vapnik于1995年首先提出的，斯核函数具有较好地普适性，在实际中应用最广泛，它在解决小样本、非线性及高维模式识别中表现出许并且效果很好．多特有的优势，并能够推广应用到函数拟合等其他机选择高斯核函数来进行SVM学习后，最重要的是器学习问题中．核函数参数盯(高斯径向基函数的宽度)的确定．对SVM学习中，核函数的选择非常重要，因为特征分类器的性能影响很大，若太小，则所有的训练样①基金项目：国家科技重大专项(2012ZX10004

7、．301—609)；国家自然科学基金(61272472，61232018，61202404)；安徽省教学研究计划2010收稿时间：2013．11-16；收到修改稿时间：2013．12—12242研究开发ResearchandDevelopment2014年第23卷第7期http：llwww．c—S-a．org．cn计算机系统应用本点都是支持向量，且它们全部能被正确的分类，但算容易出现“过拟合”的现象，推广能力差；若o-太大，高斯核支持向量机对所有样本一视同仁，容易出现3利用核函数性质和几何距离来选择“欠拟合”的现象．设，zX，X属于R(n)空间，非线性函数实现输

8、入空间X到特征空间H的映