一种改进的id3决策树算法研究

《一种改进的id3决策树算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、哈尔滨工程大学硕士学位论文一种改进的ID3决策树算法研究姓名：刘宇阳申请学位级别：硕士专业：计算机应用指导教师：刘杰20090601哈尔滨j门晕大学硕十学位论文摘要决策树是建立在信息论基础之上，对数据进行分类挖掘的一种方法。其基本思想是，通过一批已知的训练数据建立一棵决策树，然后利用建好的决策树，对数据进行预测。至今己经提出了决策树的很多算法，通过分析已知的分类信息得到一个预测模型，ID3算法就是其中比较经典的算法。但是ID3同样也存在不足，如学习简单的逻辑表达能力较差、属性的多值偏向等。那么，对ID3算法的这些不足进行改进

2、就是本文的着眼点和主要研究内容。通过对ID3算法的分析，提出了AR-KOS算法，即知识优选策略的属性递归改进算法。试验表明，该算法对ID3算法有所改进，并且生成的决策树是二叉树。所以，自然地将两者结合起来，发挥各自的优势，就可以得到一个性能良好的改进算法。将信息增益的属性递归优化方法应用到高考招生测评的数据挖掘中，并且根据实际需要在高考招生测评工作中进行了测试。同时，对AR—KOS算法与ID3算法进行同例比较，发现新的改进算法的决策树更加简洁、更接近于理想的决策树。关键词：决策树；ID3；属性递归；知识优选策略哈尔滨下程大学

3、硕十学位论文AbstractThedecision—treeiSonemethodbuildingonthefoundationofinformationtheory，carryingontheclassifiedminingtothedata．Itsbasicthoughtistobuildadecision-treethroughabatchofknowntrainingdata，thentopredictdatamakinguseofthedecision—tree．Uptothepresem，manyalgorith

4、msofdecision-treewhichgainaprediction·modelbyanalyzingknownclassifiedinformationhavebeenbroughtforward．ID3algorithmisoneoftheclassicalalgorithms．ButID3alsohasshortcoming，forexample，thepoorleamingabilityofsimplelogicexpressing，attributesbiasmulti—value．Thenitisthere

5、spectandchiefstudycontentofthethesistoimprovedisadvantageofID3algorithm．TheAR—KOSalgorithmisproposedbyanalysisofID3algorithm，whichistheimprovedalgorithmofattributionrecursionoptimizationwithknowledgeoptimizationchoosingstrategy．Experimentshowsthatthisalgorithmisbet

6、terthanID3anddecision—treegeneratedarebinary-tree．Soanimprovedalgorithmwithgoodperformanceisgottenbycombiningtheabovetwoalgorithmsusingtheirrespectiveadvantages．Attributionrecursionoptimizationmethodofinformationgainisappliedtodataminingofcollegeentranceexamination

7、’Stestandappraisement，whichhavealreadybeentestedamongworkingofcollegeentranceexamination’Stestandappmisementaccordingtoactualrequirement．Meanwhile，itisdiscoveredthatthedecision．treebasedonthenewalgorithmismoreconcisionandmoreclosetotheidealdecision-treebycomparingA

8、R—KOSalgorithmwithID3algorithmunderthesamecase．Keywords：Decision-Tree；ID3；AttributionRecursion；KnowledgeOptimizationChoosingStrategy哈尔滨工程大学学位论文原创