基于支撑向量机的收敛问题研究.pdf

《基于支撑向量机的收敛问题研究.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、E-mail：eduf@CCCC．net．cnISSN1009—3044ComputerKnowledgeandTechnology电脑知识与技术http：／／~w．dnzs．net．cnVo1．6，No．6，February2010，PP．1454-1457Feh+86—551—56909635690964基于支撑向量机的收敛问题研究谢树新．(湖南铁道职业技术学院，湖南株洲412001)摘要：在文章中提出了一种基于支持向量机思想的对任意距离空间求解最大分类间隔的方法，其优化问题可以用输入空间的距离来表示。首先将输入空间等距嵌入到Hilbert空间，在线性的Hi

2、lbe~空间对优化问题进行线性处理，但是这种方法只适用于特定的距离空间。在原方案的基础上扩展研究了对任意距离空间求解最大分类间隔的方法。关键词：距离空间；分类间隔；凸集；核函数中图分类号：TP18文献标识码：A文章编号：1009—3044(2010)06—1454—04StudyonMetricSpacesBasedonSupportVectorMachineXIEShu-xin(HunanRailwayProfessionalTechnologyCoHege，Zhuzhou412301，China)Abstract：Thispaperproposedamaxi

3、maliliarginclassificationmethodbased011supportVectormachine(SVM)forarbitrarymetricspaces．Theoptimizationproblemcanbewrittenintermsofthemetricoftheinputspace．Firstlyweisometricallyembeddedtheinput~paceintoaHilbertspacewherewecansolvetheproblemwithlinearmethod．However，thismethodislimit

4、edtospccialmetricspaces．AccordingtotheschemedevelopedforSVM"vVeprovideageneralizationofmaximL1mmarginprincipletoarbitrarymetricspace．Keywords：metricspace；margin；convexhull；kernel距离空19(度量空间)是一种拓朴空间。对于距离空J~3(x，P)，x是一个非空集，P叫做x上的一个距离。通常SVM问题都是以核函数k作为研究对象，其分类结果与k的选有关。由于分类间隔在几何上等于两个互不相交凸集间

5、的距离，在此将距离作为研究对象。但并非任1情况都线性可，这时可考虑将原空间等距嵌人线性空间。一方面，使得输入空『日J的距离大小在嵌人后保持不变；⋯方面，可以对问题进行线性处理。酋先在Hilbert空间上用P表示该优化问题，但这必须在一P条件正定的条件下进行。因此我们研究了能够适用于任意距离空间的距离分析方法，就是将任意距离空间等距嵌入到Banaeh空间．在线性的Banach空间用计算两凸集间距离的方法求最大分类间隔。1分类超平面与分类间隔考虑线性可分的情况，分类超平面在泛函分析中的解释是：Hahn—Banach凸集分离定理。设E。和E是Banaeh空间中两个互不

6、相交的非空凸集，E有内点，那么S∈R及非零线性连续泛函g，使得超平面H分离E和，即存在一个非零线性泛函g，使得g(x)≤S(VX∈E-)(1)g(x)≥s(VXE2)(2)根据(1)、(2)定义严格的分类函势为符号函数：t(x)=sgn[g(x)一S]对应SVM问题⋯的分类函数：，、()=sgn[(w·、+州=sgn[∑-tf】『(11+hi(3)T规范形式的超平面分类间隔大小为而f，即在约束条件yi(w‘x+b)≥1下求llWll的最小值。在此不是如何求分类函数中参数的具体值，而是采用距离空间的究方法，用P来表示该优化问题。接F来根据RKHS理论来说明通常的S

7、VM方法。2在Hilbert空间求解最大分类间隔2．1基于RKHS理论的SVM方法根据正定函数与条件正定函数的概念可知正定函数一定是条件正定的。通过正定核函数来建立基于RKHS理论的希尔伯特空间H．其方法如下：1)定义特征映射：x—+R，x—x=k(x，·)；2)在特征空间定义有界线性算子f，f为牵x的线性组合，即．，∑q；j3)定义内积为=k(x，Y)；范。II=厕=；收稿日期：2010-01-05作者简介：谢树新(1963一)，男，湖南醴陵人，湖南铁道职业技术学院信息工程系副教授，硕士，主要研究方向：网络安全与管理、面向对象程序设计与算法分析。

8、1454人工留能硬识另q