迁移学习的研究现状-论文.pdf

《迁移学习的研究现状-论文.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、堕墼直NO．5TIMEEDUCAT10N迁移学习的研究现状李亚丽王敏李静摘要：迁移学习作为机器学习的一个新框架，近年来得到了广泛的关注和发展。它打破了传统机器学习对测试数据与源数据必须同分布的要求，是一种跨领域、跨任务的学习方法。但由于目前对迁移学习的研究还处于初级阶段，其所跨越的领域与任务不同但必须相关。关键词：迁移学习机器学习同分布跨领域跨任务中图分类号：G642．0文献标识码：cDOI：10．3969／j．issn．1672—8181．2014．09．1691迁移学习概述更多的是通过建立源领域到目标领域间的桥梁来完成迁移知识迁移学习是机器学习的一个分支，又与多任务学

2、习有些相任务。似。本节结合相关研究工作，对迁移学习的一些特征进行了分析翻译学习算法以映射函数作为桥梁，利用源数据，帮助目标数和总结，并指出迁移学习与机器学习和多任务学习存在的差异。据构建一个更好的特征空间表示；标签精化方法，其核心是将原1．1迁移学习的基本概念及其特点始领域和目标领域数据的混合分布作为迁移的桥梁。基于协同一个数据集通常有两部分构成：领域与任务。领域包含特征聚类的特征迁移，其主要用于文本，将公共词作为连接源领域到空间和边缘概率分布。任务包含类别空间和目标预测函数。目标领域的桥梁，对源领域和目标领域的标签结构同时进行协同迁移学习通过利用原始领域和学习任务的知识

3、，来加强目标聚类，最终用源领域的标签结构影响目标领域的标签结构。预测函数的学习。具有如下特点：2．2-3无监督迁移学习研究现状跨领域：从不同领域中学习对目标领域有用的知识。无监督迁移学习的特点是源数据集与目标数据集的领域与跨任务：具有识别和应用先前任务中学习到的知识到新的任任务均不相同但相关，这是最难的一类迁移学习。TDA算法运务中的能力。用聚类方法来产生未标记的目标数据的伪类标签，然后结合已标1．2迁移学习与机器学习和多任务学习的不同记的原始数据，用维数约减方法来对目标数据进行维数约减，然机器学习有严格的假设前提，即测试数据与源数据必须同分后进行自适应训练以找到目标数据

4、的最佳子空间。布。而迁移学习对数据分布没有要求，当测试数据与源数据不同3迁移学习的应用分布时，就会从先前或其它领域、任务中学习知识，迁移到目标分迁移学习作为一种很高效的学习方法，已经应用于现实世界类器。的很多领域。例如，可以将其用于文本分类；黄贤立从多视图学多任务学习与迁移学习是容易混淆的一个概念，它是领域或习的视角提出一个新的跨领域文本分类的方法；Dai等人提出翻任务之间的相互学习，彼此之间相互服务。而迁移学习，它有很译模型，实现了从图像到文本的迁移学习等等。明显的源领域和目标领域，并且源数据集只用来帮助目标领域学4未来工作展望习。如何判别有用知识，以及如何实现知识从一

5、个领域或任务迁2迁移学习分类及在各分类中迁移学习的研究现状移到另一个领域或任务仍然是存在许多新的挑战。2．1迁移学习分类第一，从多领域或多任务中进行迁移学习。实际应用中，很归纳式迁移学习：该类迁移学习源领域与目标领域相同，任可能有多个领域或任务虽与目标领域或任务不同，但却相似，此务不同但相关。根据原始领域中有无标记数据，可进一步将归纳时可以把多领域或多任务中的知识进行迁移，但是多领域或多任迁移学习分为以下两种情况：多任务学习和自学习任务。务迁移同时也存在一些问题。直推式迁移学习：该类迁移学习源领域与目标领域不同但相第二，领域、任务界定问题。迁移学习是一个跨领域、跨任务相关

6、，两者的任务相同。的学习方法。但是目前对于是否是同一领域、同一任务的判定问无监督迁移学习：该类迁移学习源领域与目标领域不同但相题，仍由人主观来进行分析、判断。关，两者的任务也不相同但相关。第三，效率问题。目前的技术大都可以完成迁移知识的目2．2迁移学习各分类中的研究现状的，在此基础上，更要追求效率问题。本节介绍如何实现迁移学习和各类迁移学习中的一些关键总之，虽然迁移学习已经在许多方向上得到了研究和应用，技术。但是基本都处于研究的初期阶段，在理论上需要进一步完善，在2．2．1归纳式迁移学习研究现状实际应用上，更需要进一步拓展和深入。归纳式迁移学习往往发生在这种情况：旧的分类

7、器已经不再适用新的数据，所以要求产生新的分类器。但目标领域标记数据参考文献：太少，不足以产生正确的分类器。迁移学习就是要利用大量的源[1】梅灿华．基于最大熵模型的迁移学习算法研究【D】．合肥工业大领域数据，从中选取有用数据，来辅助形成目标分类器。当源领学，2011．域有大量标记数据，这时源领域的标签对目标领域的作用很大，【2】黄贤立．基于典型相关分析的多视图跨领域情感分类叫．计算基于实例的迁移学习可直接从源领域中选取出部分适合测试数机工程，2010，24(34)：186—189．据的样例。【3】江涛，陈小莉，张玉芳，熊忠阳．基