电子信息科学与技术毕业论文-数据流中概念漂移检测与分类方法研究.doc

《电子信息科学与技术毕业论文-数据流中概念漂移检测与分类方法研究.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、数据流中概念漂移检测与分类方法研究摘要由于现有各种机器学习算法本质上都是基于一个静态学习环境而以尽量保证学习系统泛化能力为目标的一个寻优过程，概念漂移数据流分类给机器学习带来了巨大挑战。从数据流与概念漂移、概念漂移数据流分类研究的发展与趋势、概念漂移数据流分类的主要研究领域、概念漂移数据流分类研究的新动态四个方面展开了分析，并分析了当前概念漂移数据流分类算法存在的问题。关键词：大数据；概念漂移；增量学习；适应学习；数据流目录引言11数据流与概念漂移22概念漂移数据流分类研究的发展与趋势43概念漂移数据流分类的主要研究方法53.

2、1概念漂移数据流学习器的构建53.2概念漂移数据流学习理论的研究73.3概念漂移的检测83.4概念漂移数据流分类研究使用的数据集94概念漂移数据流分类研究的新动态104.1概念漂移数据流中的类别不平衡学习问题104.2概念漂移数据流中的概念重复学习问题114.3概念漂移数据流中的半监督学习与主动学习问题115存在的问题136结束语14参考文献15引言在社会生产和生活实践中，有一类问题是数据所包含的概念[1]可能随时间而变化。自动化生产线上，相近原因的问题产品会连续出现，然后问题产品的特征也随之发生变化；商务活动中，顾客的购买兴

3、趣随时间而变化；网络安全中，网络的访问模式随用户不同而变化；社交媒体上，用户的实际行为随其注册位置而变化。这些问题的共同特点是：不断产生的数据形成流；数据流没有终点；数据流中数据包含的概念随时可能产生变化。数据流中这种概念的变化在本文中被称为概念漂移[2]。概念漂移要求学习系统能尽早地检测到概念漂移，并对自身进行适应概念漂移的调整，以对不断到来的数据尽可能地正确判断。概念漂移问题给机器学习带来了巨大的挑战。目前各种人工学习系统的构造算法在本质上都是基于一个静态学习环境而以尽量保证学习系统泛化能力为目标的一个寻优过程，所以现有各

4、种机器学习算法本质上都不适应进行概念漂移数据流学习。这种不适应体现在：计算模型或者缺乏获取新知识的能力，或者不能保持原本学到的知识[3]。自“概念漂移”(conceptdrift)在1986年由Schlimmer和Granger首次提出后[2]，国内外众多研究人员对概念漂移数据流分类展开了深入研究。Kuncheva[4]、Tsymbal[5]、王涛[6]、Zliobaite[7]、Hoens[8]和Gama[9]25等先后从各自角度对概念漂移数据流分类研究进行了很好的文献综述。与已上这些综述相比，本综述具有如下特色之处：剖析了

5、概念漂移数据流分类研究产生并发展的脉络；包含了概念漂移数据流分类的最新研究动向——概念漂移数据流分类中的类别不平衡学习、重复概念学习及半监督学习和主动学习问题；深入分析了当前概念漂移数据流分类算法存在的问题。考虑到概念漂移数据流分类研究的文献量很大，本文将从数据流与概念漂移、概念漂移数据流分类研究的发展与趋势、概念漂移数据流分类的主要研究领域、概念漂移数据流分类研究的新动态等四个方面展开文献分析和整理，试图总结概念漂移数据流分类已有的研究成果，把握其研究展开的脉络，分析其存在的问题。1数据流与概念漂移数据流分类问题引起研究人员

6、关注的原因主要有两个：一是因为自动数据获取技术的飞速发展使得人类获得了大量的数据。数据量太大时，数据不能被一次性装入内存；二是由于传感器技术的发展使得人类获得了大量与时间和环境相关的数据[10]。Gama[9]和Street[11]讨论了数据流分类问题的特点：顺序处理、单向通过、内存有限等。数据流分类通常被描述为在线分类模型[12]——也就是分类器每次只对一个样本分类，在完成对该样本的分类后，分类器将得到由专家给出的该样本的真实类别；该样本及其类别标志被用于分类器更新；当分类器完成更新后，将对下一个接收到的样本实施分类。在线分

7、类模型通常又被扩展为分类器每次分类或学习一批样本。数据流分为两种：一种是数据源产生的数据独立同分布，研究人员称为稳定数据流[13]；另一种是数据源产生的数据不独立同分布，研究人员认为在数据产生过程中发生了“概念漂移”[2]25，称其为动态数据流[14]。研究人员对概念漂移的深入理解是通过分析概念漂移的种类及产生的原因逐步得到的。Widmer等认为数据产生环境的变化导致了概念漂移，并将概念漂移区分为虚概念漂移和实概念漂移[15]；Kelly认为概念漂移是样本与其类别的联合概率随时间变化而产生，其产生原因分三种：一是某类的先验概率

8、发生变化；二是某类的类概率发生变化；三是样本后验概率发生变化[16]；Kuncheva引用时间序列分析方法将概念漂移分为四种：随机噪声、随机趋势、随机替换、系统趋势[4]。其中，随机趋势中包含渐变性概念漂移，随机替换中包含突变性概念漂移，系统趋势中包含着重复性概念漂移；Nar