基于决策树分类器的迁移学习研究

《基于决策树分类器的迁移学习研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、代号10701学号1103121715分类号TP391密级公开题（中、英文）目基于决策树分类器的迁移学习研究ResearchonTransferlearningBasedonDecisionTreeClassifier作者姓名张宁指导教师姓名、职务方敏教授学科门类工学学科、专业计算机应用技术提交论文日期二○一四年一月万方数据西安电子科技大学学位论文独创性（或创新性）声明秉承学校严谨的学风和优良的科学道德，本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢中所罗列的内容以外，论文中不包含

2、其他人已经发表或撰写过的研究成果；也不包含为获得西安电子科技大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中做了明确的说明并表示了谢意。申请学位论文与资料若有不实之处，本人承担一切相关责任。本人签名：___________________日期：________________西安电子科技大学关于论文使用授权的说明本人完全了解西安电子科技大学有关保留和使用学位论文的规定，即：研究生在校攻读学位期间论文工作的知识产权单位属西安电子科技大学。学校有权保留送交论文的复印件，允许查阅和借阅论文；学校可以

3、公布论文的全部或部分内容，可以允许采用影印、缩印或其它复制手段保存论文。同时本人保证，毕业后结合学位论文研究课题再撰写的文章一律署名单位为西安电子科技大学。(保密的论文在解密后遵守此规定)本学位论文属于保密，在年解密后适用本授权书。本人签名：___________________日期：________________导师签名：___________________日期：________________万方数据万方数据摘要在传统的机器学习方法中，训练集与测试集通常来自于同一分布。但是迁移学习所研究的问题是如何将源域样本集迁移到不同分布的目标领域

4、，并辅助训练目标域模型，从而提高模型的训练效果。近年来，迁移学习逐渐成为了研究热点，并产生了一定的研究成果。决策树算法是常用的分类算法之一，但是在迁移任务中，决策树分类算法的相关研究却很少。针对这一现象，本文主要研究传统决策树分类算法在迁移任务中的改进。本文将迁移成分分析法与CART算法相结合设计了TCA_CART算法，并将其用于迁移学习中多分类问题的研究。同时分析了TCA_CART算法的不足，在此基础上利用K-means聚类算法对其进行改进。改进的方式是在决策树的分支过程中对样本数据进行聚类操作，将部分与目标域样本特征相似但是标签不一致的源

5、域样本数据进行剔除，从而得到适应目标域的决策树分类器。随后通过对TrAdaBoost算法以及TrBag算法进行分析，指出了传统的基于样本的迁移学习中存在的缺陷，并通过Bootstrapping技术对源域样本进行选择，同时给出了用于对目标域数据进行分类的算法。最后，本文将所设计的决策树迁移算法拓展至随机森林。将Bagging与随机选择特征子空间方法相结合作为构建随机森林的基本方法，将迁移树构建算法以及源域样本选择算法作为森林子树建立的基础算法，尝试将随机森林改进为迁移森林。实验表明所设计的算法具备了较好的稳定性以及较高的分类正确率。关键词：决策

6、树迁移学习迁移成分分析随机森林万方数据万方数据AbstractInthetraditionalmachinelearningmethods,thetrainingsetsandthetestsets usuallycomefromthesamedistribution.However,intransferlearning,theproblemis howtotransferthesourcedomainsamplesetstothetargetdomainsamplesetswitha differentdistribution,andaux

7、iliarytrainingthetargetdomainmodeltoimprovethe trainingresults.Inrecentyears,transferlearninggraduallybecameahotspot,andit producesacertainamountofresearch.Decisiontreealgorithmisoneofthecommonly usedclassificationalgorithm,butinthetransferlearningtasks,theresearchabout dec

8、isiontreeclassificationalgorithmisrare.Inviewofthisphenomenon,thispaper studieshow