基于信息论特征选择算法研究

《基于信息论特征选择算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、ClassifiedIndex：TP391．4DissertationfortheMasterDegreeinEngineeringResearchonFeatureSelectionAlgorithmBasedonInformationTheoryCandidate：Supervisor：ZhangLuoHuangJinjieAcademicDegreeAppliedfor：MasterofEngineeringSpecialty：DateofOralExamination：University-Contro

2、lTheoryandControlEngineeringMarch，2013HarbinUniversityofScienceandTechnology哈尔滨理工大学硕士学位论文原创性声明本人郑晕声明：此处所提交的硕士学位论文《基于知识的锅炉燃烧智能控制系统》，是本人在导师指导下，在哈尔滨理工大学攻读硕士学位期问独立进行研究工作所取得的成果。据本人所知，论文中除已注明部分外不包含他人已发表或撰写过的研究成果。对本文研究工作做出贡献的个人和集体，均已在文中以明确方式注明。本声明的法律结果将完全由本人承担。作者签名

3、：欲研、同期：旧13年々月7日哈尔滨理工大学硕士学位论文使用授权书《基于知识的锅炉燃烧智能控制系统》系本人在哈尔滨理工大学攻读硕士学位期间在导师指导下完成的硕士学位论文。本论文的研究成果归哈尔滨理工大学所有，本论文的研究内容不得以其他单位的名义发表。本人完全了解哈尔滨理工大学关于保存、使用学位论文的规定，同意学校保留并向有关部门提交论文和电子版本，允许论文被查阅和借阅。本人授权哈尔滨理工大学可以采用影印、缩印或其他复制手段保存论文，可以公布论文的全部或部分内容。本学位论文属于保密口，在年解密后适用授权书。不保密

4、团。(请在以上相应方框内打√)作者签名：承趼、R期：为f)年1月／同导师签名：黄金立同期：州多年q月／n哈尔滨理T人学T学顺I：学位论文基于信息论的特征选择算法研究摘要随着计算机技术和信息技术的飞速发展，人们对于计算机越来越迫切的希望其能具有人类认知能力。JohnMcCarthyl956年在Dartmouth学会首次提出“人工智能”概念，在此之后，其中包括模式识别等人工智能学科得到了飞速发展。模式识别的定义就是通过计算机对于输入的某一具体事物将其正确分类。数据获取、预处理、特征提取和选择、分类决策这四部分组成了

5、模式识别系统。随着新技术的不断出现，在模式识别系统中，数据的规模越来越大并具有样本少、维数高等特点，这给传统的分类学习带来了巨大的挑战。因此，怎样在数据呈现高维特性时剔除其中的冗余或无关特征，避免维灾难问题，从而使得在高维数据环境下依然可以使用传统学习算法进行学习训练，这是当前研究人员们面临的一道难题。因此特征选择是模式识别系统中非常重要的一部分，也是设计一个性能优良分类器的前提和必要。本文首选介绍了特征选择问题的定义以及分类，概述了特征选择的历史现状以及研究趋势，然后阐述了信息论中的一些基本概念和理论以及基于

6、信息论的特征选择的基本思想，最后分别提出了一种改进的基于最大相关最小冗余有监督特征选择算法和一种基于信息论的无监督特征选择算法，并且在数据集上分别进行实验，验证了算法的有效性。关键词模式识别；特征选择；信息论；互信息ResearchonFeatureSelectionAlgorithmBasedonInformationTheoryAbstractWiththerapiddevelopmentofcomputertechnologyandinformationscience，peoplebecomemorean

7、dmoreurgentwithcomputer’Sbeingmoreintelligent．JohnMacarthyfirstcameupwiththeconceptof”ArtificialIntelligence”atDartmouthAcademyin1956．Afterthat，manyartificialintelligencesubjectsgotrapiddevelopmentincludingpatternrecognition．ThedefinitionofpaRernrecognitioni

8、sclassifyingtheinputwhichisthroughcomputercorrectly．Patternrecognitionsystemsconsistoffoursegments：datacapturing，pretreatment，featureextractionandselection，classificationdecision．Asnewtechnology