模式分类中特征选择算法研究

《模式分类中特征选择算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、国内图书分类号：TP391．4唧㈣㈣11IIIIII㈣IIIIIIIIIIIIIIl㈣lnIIIY2509509。工学硕士学位论文模式分类中特征选择算法研究硕士研究生：导师：申请学位级别：学科、专业：所在单位：答辩日期：授予学位单位：刘依恋黄金杰工学硕士控制理论与控制工程自动化学院2014年3月哈尔滨理工大学工学硕士学位论文模式分类中特征选择算法研究刘依恋哈尔滨理工大学2014年3月ClassifiedIndex：TP391．4DissertationfortheMasterDegreeinEngineeringResear

2、chonFeatureSelectionAlgorithmCandidate：Supervisor：forPatternClassificationLiuYilianHuangJinjieAcademicDegreeAppliedfor：MasterofEngineeringSpecialty。ControlTheoryandControlEngineeringDateofOralExamination：March，2014University：HarbinUniversityofScienceandTechnology哈尔

3、滨理工大学硕士学位论文原创性声明本人郑重声明：此处所提交的硕士学位论文《模式分类中特征选择算法研究》，是本人在导师指导下，在哈尔滨理工大学攻读硕士学位期间独立进行研究工作所取得的成果。据本人所知，论文中除已注明部分外不包含他人己发表或撰写过的研究成果。对本文研究工作做出贡献的个人和集体，均在文中以明确方式注明。本声明的法律结果将由本人承担。作者签名：刘岱≮悉、日期：201％．5月炒日哈尔滨理工大学硕士学位论文使用授权书《模式分类中特征选择算法研究》系本人在哈尔滨理工大学攻读硕士学位期间在导师指导下完成的硕士学位论文。本论文的

4、研究成果归哈尔滨理工大学所有，本论文的研究内容不得以其它单位的名义发表。本人完全了解哈尔滨理工大学关于保存、使用学位论文的规定，同意学校保留并向有关部门提交论文和电子版本，允许论文被查阅和借阅。本人授权哈尔滨理工大学可以采用影印、缩印或其他复制手段保存论文，可以公布论文的全部或部分内容。本学位论文属于保密口，在年解密后适用授权书。不保密团。作者签名：文-艄，导师签名：铡日期：别华年一弓月b日日期：加I斗年3月＼O日哈尔滨理-丁大学工学硕上学位论文模式分类中特征选择算法研究摘要新技术的蓬勃发展使我们每天都接触到海量的信息，如何

5、从这些海量数据中获取对自己有用的信息，关键的环节就是模式识别技术。在模式识别系统中，由于获取的数据规模越来越大并且具有样本少、维数高等特点，如何从高维度原始数据中选择合适特征子集，避免“维数灾难”，同时不影响分类性能，使得特征选择算法面临更大的挑战。特征选择是模式识别系统中非常重要的一部分，也是设计一个性能优良分类器的前提和必要条件。本文通过研究国内外各种特征选择算法，在对有监督的特征选择算法中的评价测度、搜索方向和搜索策略等深入研究的基础上，提出了改进的特征选择算法。基于主成分分析(PrincipleComponentAn

6、alysis，PCA)的多层Filter式特征选择算法，它将PCA特征提取运用于特征选择之前，能有效去除特征间冗余，克服了特征选择被用于依赖性较高的数据集时为了有效检测到冗余的高计算量问题。之后引入信息熵的理论，研究特征的最大相关最小冗余的非线性相关性。针对Filter特征选择效率高但是不能保证获得规模最小的特征子集的不足，本文提出分层Filter式特征选择，减少每层计算量，逐层降低特征维数，得到维数最低冗余度小的特征子集。基于信息相关性的嵌入式动态特征选择算法是在这样的基础上：信息相关的度量方法是建立在概率论的基础上的，预

7、先要知道数据集上的概率分布情况；随着特征选择的不断进行，待选特征子集不断缩小，己选特征子集不断壮大，数据类别的不确定性越来越小，而信息熵计算不变，显然信息熵中包含部分“假信息”。通过改进特征选择中单个特征的评价函数，同时在特征选择算法中嵌入k近邻分类器，根据己选特征子集来得到可识别样本，将其从原样本中去除，重新计算信息熵来实现动态特征选择。关键词模式识别；特征选择；过滤式；嵌入式；信息论哈尔滨理工大学T学硕士学位论文ResearchonFeatureSelectionAlgorithmforPatternClassifica

8、tionAbstractTherapiddevelopmentofnewtechnologiesbringsUSalargeamountofinformationeveryday,themostimportantsteptoobtainusefulinformationfromthemas