资源描述：
《一种近似markovblanket最优特征选择算法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。
1、第30卷第12期计算机学报Vol.30No.122007年12月CHINESEJOURNALOFCOMPUTERSDec.2007一种近似MarkovBlanket最优特征选择算法1)1)2)1)崔自峰徐宝文张卫丰徐峻岭1)(东南大学计算机科学与技术学院南京211189)2)(南京邮电大学计算机学院南京210003)摘要特征选择可以有效改善分类效率和精度,传统方法通常只评价单个特征,较少评价特征子集.在研究特征相关性基础上,进一步划分特征为强相关、弱相关、无关和冗余四种特征,建立起MarkovBlanket理论和特征相
2、关性之间的联系,结合Chi2Square检验统计方法,提出了一种基于前向选择的近似MarkovBlanket特征选择算法,获得近似最优的特征子集.实验结果证明文中方法选取的特征子集与原始特征子集相比,以远小于原始特征数的特征子集获得了高于或接近于原始特征集的分类结果.同时,在高维特征空间的文本分类领域,与其它的特征选择方法OCFS,DF,CHI,IG等方法的分类结果进行了比较,在20Newsgroup文本数据集上的分类实验结果表明文中提出的方法获得的特征子集在分类时优于其它方法.关键词特征选择;相关性;MarkovBl
3、anket;CHI2Square检验;分类中图法分类号TP18AnApproximateMarkovBlanketFeatureSelectionAlgorithm1)1)2)1)CUIZi2FengXUBao2WenZHANGWei2FengXUJun2Ling1)(SchoolofComputerScience&Engineering,SoutheastUniversity,Nanjing211189)2)(SchoolofComputer,NanjingUniversityofPosts&Telecommunic
4、ation,Nanjing210003)AbstractFeatureselection(FS)caneffectivelyimprovethespeedandaccuracyofclassification.ThetraditionalFSapproachesusuallyscoreasinglefeature,donotevaluatefeaturesubset.Basedontheresearchinfeaturerelevance,featurescanbefurtherdividedintofourcateg
5、ories:Strongrelevance,weakrelevance,irrelevanceandredundancy.Thepaperproposesaforwardse2lectionalgorithm—AnapproximateMarkovBlanket(MB)featureselectionbytheoryofMBandChi2Squaretest,whichobtainanapproximateoptimalfeaturesubset.Experimentsonthedata2setssuggestthat
6、,comparedwithoriginalfeatureset,thefeaturesubsetobtainedbytheproposedapproachismuchlessthanoriginalfeaturesetandperformanceonactualclassificationisbetterthanorasgoodasthatbyoriginalfeatureset.Meanwhile,whenusedinhighdimensionfeaturespacesuchastextcategorization,
7、comparedwithothertraditionalfeatureselectionapproaches:OCFS,DF,CHI,IG,theperformanceobtainedbytheproposedmethodisobviouslysuperiortothatofotherson20Newsgroupdataset.Keywordsfeatureselection;relevance;MarkovBlanket;CHI2Squaretest;categorization收稿日期:2006205211;最终修
8、改稿收到日期:2007203205.本课题得到国家杰出青年科学基金(60425206)、国家自然科学基金(60503020)和江苏省高校自然科学研究计划项目基金(04kjb520096)资助.崔自峰,男,1976年生,博士研究生,主要从事信息检索、机器学习和模式分类等方面的研究.E2mail:maple.cui@126.com.徐
