基于线性双子支持向量机的特征选择研究及应用

《基于线性双子支持向量机的特征选择研究及应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、浙江工业大学硕士学位论文基于线性双子支持向量机的特征选择研究及应用作者姓名：指导教师：何俊云杨志民教授浙江工业大学理学院2013年4月浙江工业大学学位论文原创性声明IIIIIIIlllllllllllIIIIM㈣Y24119,5本人郑重声明：所提交的学位论文是本人在导师的指导下，独立进行研究工作所取得的研究成果。除文中已经加以标注引用的内容外，本论文不包含其他个人或集体已经发表或撰写过的研究成果，也不含为获得浙江工业大学或其它教育机构的学位证书而使用过的材料。对本文的研究作出重要贡献的个人和集体，均已在文中以明确方式标明。本人承担本声明的法律责任。作者签名：1巧韬己夸日

2、期》J异彩月学位论文版权使用授权书／7日本学位论文作者完全了解学校有关保留、使用学位论文的规定，同意学校保留并向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅。本人授权浙江工业大学可以将本学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。本学位论文属于1、保密口，在年解密后适用本授权书。2、不保密瓯(请在以上相应方框内打“√”)作者签名：、_弓筐孟剔醛轹敝日期：弘』3年／月i,1日日期：加f声6月／夕日浙江工业大学硕士学位论文基于线性双子支持向量机的特征选择研究及应用摘要在分类问题中，主要有两种特征

3、选择方式。一种是算法独立，例如F．score方法。F．score方法通过计算特征之间差异值，选出差异值较大的特征，简单有效，但是该方法并不能展现特征之间的多重信息。另一种方式是算法依赖，例如SVM．RFE，该方法在运算量上消耗较大，但是特征选择的效果较好。近些年，Jayadeva等人提出了双子支持向量机的分类方法，该方法在分类思想上与传统的支持向量机分类思想有所不同。双子支持向量机寻求的是一对不平行的分类超平面，从双子支持向量机的模型便分解成两个二次规划问题，这相对于传统的支持向量机来说在运算量上大大降低，为原来的l／4。求解双子支持向量机，在决策函数中，这两个权重向量

4、同时起作用。正是由于存在着两个不同的权重向量，使得在基于双子支持向量机的特征选择问题就不能单独利用其中一个权重向量进行。针对这个问题，我们进行了综合分析，采用将这两个权重向量进行合并成一个权重向量的方法，提出了本文的两种基于线性双子支持向量机的特征选择算法。本文把第一种算法叫做sort．TWSVM，该算法的思想是将两个权重向量合并成一个向量，接下来类似于F．score方法进行特征选择。该算法运算量较小，速度快，一次性次删去多个特征。第二种算法称为TWSVM．RFE，该算法同样先将两个权重向量进浙江工业大学硕士学位论文行合并，然后类似于SVM-RFE方法进行特征选择，该算

5、法展示了各个特征之间的联系，效果较好。在数据实验部分，我们通过对比F．score方法的实验结果，验证了本文提出的两种特征选择算法的可行性。并且将本文所提出的两种算法应用到对葡萄酒优劣的辨别中，起到了特征选择的效果。关键词：机器学习，F-score，SVM．RFE，双子支持向量机，特征选择浙江工业大学硕士学位论文FEATURESELECTl0NBASED0NLINEARTWINSUPPORTVECTORMACHINEANDAPPLICATIONABSTRACTGenerally,therearetwowaystodothefeatureselectioninclassif

6、icationproblems．Onewayisalgorithmindependent，suchasF-score．F—scoreisasimpleandeffectivecriterionwhichmeasuresthediscriminationoftwosetsofrealnumbers．AknowndeficiencyofF-scoreisthatitcallnotrevealmutualinformationamongfeatures．Anotherwayisalgorithm—dependent，suchasSVM—RFE．Themethodwithala

7、rgecomputationconsumption，butithasabettereffectoffe：atureselection．Recently,Jayadevaet．alproposedthetwinsupportvectormachines(TWSVM)．DifferentfromSVM，inTWSVM，therearetwodifferentweightvectorsindecisionfunction．Thus，wecannotdothefeatureselectionthesalneasSVM—RFEdirectly．Ai