一种基于密度的改进决策树算法

《一种基于密度的改进决策树算法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、乂至鍵？＾义葦ＤＡＬＩＡＮＵＮＩＶＥＲＳＴＹＯＦＴＥＣＨＮＯＬＯＧＹＩＩ福损±享恆巧又ＭＡＳＴＥＲＡＬＤＩＳＳＥＲＴＡＴＩＯＮ幽－种基于密度的改进决策树算法工程领域趕Ｍ主霉曹遵重作者姓名指导教师＿＿＿＿＿＿站唾畫＿举趕２６６与答辩日期＿与１鱼＿ｉｉ硕：ｔ学位论文－种基于密度的改进决策树算法Ａｎｉｍｒｏｖｅｄｄｅｃｉｓｉｏｎ化ｅｅａｌｇｏｒｉｔｈｍｂａｓｅｄｏｎｄｅｎｓｉｔｐｙ作者姓名：曹博宇

2、学科、专业：控制工程学号：３１４０９０３７指导教师：刘晓东完成日期；２０１６年０６月０６日乂連巧义丈緣ＤａｌｉａｎＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ大连理工大学学位论文独创性声明作者郑重声明：所呈交的学位论文，是本人在导师的指导下进行研究工作所取得的成果。尽我所知，除文中已经注明引用内容和致谢的地方外，本论文不包含其他个人或集体己经发表的研究成果，也不包含其他已申请学位或其他用途使用过的成果一。与我同工作的同志对本研究所做

3、的贡献均己在论文中做了明确的说明并表示了谢意。若有不实之处，本人愿意承担相关法律责任。一学位论文题目：种基于密度的改进决策树算法７＾６１年６月谷曰作者签名：营傳窜日期：大连理王大学硕±学位论文摘要分类问题是机器学习领域的重要研究内容，分类是指对己知类别的数据集进行高度抽象，，提取规则，构建预测模型从而使用该模型对未知类别的样本数据进行归类。决策树是各种分类算法中最常见的算法，它相对于其他算法模式简单、分类速度快、准确率高，且，具有更强的可解释性

4、生成的规则可用语意表示。然而实际数据集中常常伴随着噪声或者孤立点，这会使决策树出现只包含极少量样本的叶子节点，产生不必一要的分支，进而使决策树规模变大。针对这问题，本文提出了基于密度的决策树构建一思想，即在决策树的构建过程中将划分区域内的样本密度作为个衡量标准，使生成的一决策树中不存在或者仅少量存在上述不必要分支，精简了决策树规模，同时在定程度上避免了过拟合现象，本文将基于密度的构建思想推广到了，提高了预测精度。同时ＲａｎｄｏｍＦｏｒｅｓｔ、Ｂ巧ｇｉｎｇ和ＡｄａＢｏｏｓｔ为

5、代表的集成算法中，这；种算法虽然相较于单个决策树己经可Ｗ表现出较强的分类能力，但是同样面临基分类器在训练结果中存在不必要分支的问题，而基于密度的集成学习算法则表现出了更强的分类能力，可レッ明显缩小建树规模，提高分类准确性。Ｉ本文在多组ＵＣ数据集上进行了多次实验，将本文方法与传统方法在树的平均节点个数和分类准确性上进行了对比。实验表明，本文方法可普遍减小决策树节点个数，同时降低过拟合程度，提高预测准确性，使得由本文方法构建的分类器具有更佳的分类，，泛化能力强性能，而且结构

6、简单语文明了。关键词：决策树；集成算法；密度；过拟合－－１一种基于密度的改进决策树算法ＡｎｉｍｐｒｏｖｅｄｄｅｃｉｓｉｏｎｔｒｅｅａｌｇｏｒｉｔｈｍｂａｓｅｄｏｎｄｅｎｓｉｔｙＡｂｓｔｒａｃｔＣｌａｓｓｉｆｉｃａｔｉｏｎｉｓａｈｏｔｔｏｐｉｃｉ打ｍａｃｈｉｎｅｌｅａｒｎｉｎｇ．Ｉｔｉｓａｈｉｇｈｌｙａｂｓｔｒａｃｔｔｏｔｈｅｄａｔａｓｅｔｗｉ化ｉｎｋｎｏｗｎｃａｔｅｏｒｉｅｓｆｕｒｔｈｅｒｅｘｔｒａｃｔｉｎｒｕｌｅｓ

7、ａｎｄｂｕｉｌｄｉｎｒｅｄｉｃｔｉｖｅｍｏｄｅｌｓｏａｓｔｏｇ，ｇｇｐ，ｃｓｓｔｅｕｎａｂｅｅｄｅｄａｔａｎｔｏｓｅｃｃｃａｔｅｏｒｅｓｌａｉｆｙｈｌｌｓａｍｌｉｐｉｆｉｉ．ｐｇＤｅｃｉｓｉｏｎｔｒｅｅｉｓｔｈｅｍｏｓｔｃｏｍｍｏｎｃｌａｓｓｉ打ｃａｔｉｏｎａｌｏｒｉｔｈｍ．Ｃｏｍａｒｅｄｔｏｔｈｅｏｔｈｅｒｇｐａ．Ｆｌｏｒｉｔｈｍｓｄｅｃｉｓｉｏ打ｔｒｅｅｉｓｒａ化ｅｒｓｉｍｌｅａｎｄｆａｓｔｗｉ化ｈｉｈａｃｃ

8、ｕｒａｃｕｒｔｈｅｒｍｏｒｅ化ｅｒｕｌｅｓｇ，ｐｇｙ，ＣＯ打ｓｔｒｕｃ．ｌ：ｅｄｂｙｄｅｃｉｓｉｏｎｔｒｅｅｃａｎｅｘｐｒｅｓｓｍｏｒｅｓｅｍａｎｔｉｃｍｅａｎｉｎｇｔｈｕｓｂｅｉｎ化ｒｐｒｅｔａｂｌｅＣｏ打ｓｉｄｅｒｉｎｇｔｈａｔｔｈｅｄａｔａｓｅｔｉ打ｐｒａｃｔｉｃａｌａｌｗａｓＣＯ打ｔａｉ打ｓｎｏｉｓｅｏｒｉｓｏｌａｔｅｄｏｉｎｔｓ，ｔｈｅｒｅｗｉｌｌｙｐａｌｗａｙｓｂｅｓｏｍｅｌｅａｆ打ｏｄｅｓｗｉｔｈ