基于特征子集区分度与支持向量机的特征选择算法-论文.pdf

《基于特征子集区分度与支持向量机的特征选择算法-论文.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第37卷第8期计算机学报Vo1．37No．82014年8月CHINESEJOURNAL0FCOMPUTERSAug．2014基于特征子集区分度与支持向量机的特征选择算法谢娟英”谢维信’”(陕西师范大学计算机科学学院西安710062)(深圳大学信息工程学院ATR国家重点实验室广东深圳518060)摘要考虑特征之间的相关性对于其类间区分能力的影响，提出了一种新的特征子集区分度衡量准则——DFS(DiscernibilityofFeatureSubsets)准则．该准则考虑特征之间的相关性，通过计算特征子集中全部特征对于分类的联合贡献来判断特征子集的类间

2、辨别能力大小，不再只考虑单个特征对于分类的贡献．结合顺序前向、顺序后向、顺序前向浮动和顺序后向浮动4种特征搜索策略，以支持向量机(SupportVectorMachines，SVM)为分类工具，引导特征选择过程，得到4种基于DFS与SVM的特征选择算法．其中在顺序前／后向浮动搜索策略中，首先根据DFS准则加入／去掉特征到特征子集中，然后在浮动阶段根据所得临时SVM分类器的分类性能决定刚加入／去掉特征的去留．UCI机器学习数据库数据集的对比实验测试表明，提出的DFS准则是一种很好的特征子集类间区分能力度量准则；基于DFS与SVM的特征选择算法实现了有

3、效的特征选择；与其他同类算法相比，基于DFS准则与SVM的特征选择算法具有非常好的泛化性能，但其所选特征子集的规模不一定是最好的．关键词特征选择；支持向量机；相关性；特征子集区分度；特征区分度中图法分类号TP18DOI号10．3724／SP．J．1016．2014．01704SeveralFeatureSelectionAlgorithmsBasedontheDiscernibilityofaFeatureSubsetandSupportVectorMachinesXIEJuan-YingXIEWei-Xin。’”(SchoolofComputer

4、Science，ShaanxiNormalUniversity，Xi’an710062)2(SchoolofInformationEngineering，NationalLaboratoryofATR，ShenzhenUniversity，Shenzhen，Guangdong518060)AbstractToconsidertheinfluenceofthecorrelationbetweenfeaturesontheirdiscernibilitybetweenclasses，anewcriterionwasproposedinthispaper

5、toevaluatethediscernibilityofafeaturesubset．WereferredtothiscriterionasDFSfortheshortofthediscernibilityoffeaturesubsets．DFSconsidersthecorrelationbetweenfeaturesbycomputingthediscernibilityofthewholefeatureSUbsetbetweenclasses，SOthatitcanmeasurethecontributionofthewholefeatur

6、esubsettotheclassificationnotonlythatofonefeature．FourfeatureselectionalgorithmswereputforwardbycombiningtheDFS，respectively，withthesequentialforwardsearch，sequentialbackwardsearch，sequentialforwardfloatingsearch，andthesequentialbackwardfloatingsearchstrategieswheresupportvect

7、ormachines(SVM)wereusedasaclassificationtooltoguidethefeatureselectionprocedure，especiallyinthesequentialforward／backwardfloatingsearchprocedureswhereafeaturewasfirstaddedto／deletedfromthefeaturesubsetusingtheDFScriterion，thenitwasdeletedfrom／calledbackduringthefloatingprocedu

8、redependingontheaccuracyofthecorrespondingtemporarySVMclassif