基于典型相关分析和协同训练的迁移学习研究

《基于典型相关分析和协同训练的迁移学习研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、基于典型相关分析和协同训练的迁移学习研究作者姓名张俊圆导师姓名、职称方敏教授一级学科计算机科学与技术二级学科计算机应用技术申请学位类别工学硕士提交学位论文日期2014年12月学校代码10701学号1203121713分类TN82号TP39密级公开西安电子科技大学硕士学位论文基于典型相关分析和协同训练的迁移学习研究作者姓名：张俊圆一级学科：计算机科学与技术二级学科：计算机应用技术学位类别：工学硕士指导教师姓名、职称：方敏教授提交日期：2014年12月AStudyofTransferLearningBasedonCCAandCo-TrainingAthesissubmitt

2、edtoXIDIANUNIVERSITYinpartialfulfillmentoftherequirementsforthedegreeofMasterinComputerScienceandTechnologyByZhangJunyuanSupervisor:Prof.FangMinDecember2014西安电子科技大学学位论文独创性（或创新性）声明秉承学校严谨的学风和优良的科学道德，本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢中所罗列的内容以外，论文中不包含其他人已经发表或撰写过的研究成果；也不包含

3、为获得西安电子科技大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示了谢意。学位论文若有不实之处，本人承担一切法律责任。本人签名：日期：西安电子科技大学关于论文使用授权的说明本人完全了解西安电子科技大学有关保留和使用学位论文的规定，即：研究生在校攻读学位期间论文工作的知识产权单位属于西安电子科技大学。学校有权保留送交论文的复印件，允许查阅、借阅论文；学校可以公布论文的全部或部分内容，允许采用影印、缩印或其它复制手段保存论文。同时本人保证，获得学位后结合学位论文研究成果撰写的文章，署名单位为西安电子科技大

4、学。保密的学位论文在年解密后适用本授权书。本人签名：导师签名：日期：日期：摘要摘要传统机器学习中，通常假设训练数据与测试数据的分布具有一致性，而且训练数据是基本充足的。随着机器学习的广泛应用，遇到的很多问题中训练数据与测试数据分布不同，或者可用的训练数据不足以训练一个好的分类器。迁移学习是解决这类问题的方法之一，该领域的研究具有较高的学术价值。迁移学习算法因为显著提高了学习效果而被广泛研究和使用。但是研究发现算法的权值更新策略会导致训练样本整体上的权值漂移问题，而且算法对源域和目标域样本分布相似性要求较高。论文改进了权值更新策略，在每一轮训练中，同时利用每一轮源域和目标

5、域样本上的误差来更新训练样本的权值，再进行下一轮迭代训练。迭代完成之后，再用集成学习的方法得到一个较好的分类器。给出的新方法改善了迁移学习算法的权值漂移问题，而且减弱了源域和目标域相似性较高的约束。在很多实际问题中，可以用多个不同的方法或从不同的角度对同一事物进行描述，这些不同描述就构成了事物的多个不同视图。研究视图间的关系来帮助迁移学习具有一定的理论意义。论文利用典型相关分析处理训练数据，利用特征融合方法组成新的视图，再进行迁移学习。给出的算法利用了多视图数据间的关系，改善了迁移学习效果。协同训练是多视图问题中的经典方法，协同训练和迁移学习的结合具有研究价值。论文利用

6、协同训练的思想，在迁移学习每一轮的训练过程中，在两个视图上进行协同更新训练样本权值，再进行下一轮迭代训练，最后用集成的方法得到一个较好的分类器。给出的基于协同训练思想的多视图迁移学习算法较好的利用了协同训练的思想，改善了权值更新效果，提升了整体上的分类器性能。关键词：机器学习，迁移学习，多视图，典型相关分析，协同训练论文类型：应用基础研究类I西安电子科技大学硕士学位论文IIABSTRACTABSTRACTTraditionalmachinelearningusuallyassumedthatthedistributionsoftrainingandtestingdata

7、areconsistent,andthetrainingdataissufficient.Sincemachinelearninghasbeenwidelyused,thedistributionsoftrainingandtestingdataaredifferentinmanyproblems,orthetrainingdataavailableareinsufficienttotrainagoodclassifier.Transferlearningisonewaytosolvethisproblem,andtheresearchi