资源描述:
《关联规则挖掘算法探究论文.doc》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库。
1、关联规则挖掘算法探究论文摘要Apriori算法是发现频繁项口集的经典算法,但是该算法需反复扫描数据库,因此效率较低。本文介绍了Apriori算法的思想,并分析了该算法的性能瓶颈。在此基础上,针对Apriori算法提出了一种改进方法,该方法采用转置矩阵的策略,只扫描一次数据库即可完成所有频繁项目集的发现。与其他经典的算法相比,本文提出的算法在项口集长度较大时,性能明显提高。关键字关联规则,支持度,置信度,Apriori1引言关联规则挖掘就是在海量的数据中发现数据项之间的关系,是数据挖掘领域中研究的热点
2、问题。1993年Agrawal等人[1]首先提出了交易数据库中不同商品之间的关联规则挖掘,并逐渐引起了专家、学者的重视。关联规则挖掘问题可以分为:发现频繁项目集和生成关联规则两个子问题,其中发现所有的频繁项目集是生成关联规则的基础。近年来,发现频繁项目集成为了关联规则挖掘算法研究的重点,在经典的Apriori算法的基础上提出里大量的改进算法。Savasere等[2]设计了基于划分(partition)的算法,该算法可以高度并行计算,但是进程之间的通信是算法执行时间的主要瓶颈;Park等[3]通过实验
3、发现寻找频集主要的计算是在生成频繁2-项集上,利用这个性质Park等引入杂凑技术来改进产生频繁2-项集的方法,该算法显著的提高了频繁2-项集的发现效率;Mann订a等[4]提出:基于前一遍扫描得到的信息,对此仔细地作组合分析,可以得到一个改进的算法了。针对Mann订a的思想Toivonen[5]进一步提出:先使用从数据库中抽取出来的采样得到一些在整个数据库中可能成立的规则,然后对数据库的剩余部分验证这个结果。Toivonen的算法相当简单并显著地减少了I/O代价,但是一个很大的缺点就是产生的结果不精
4、确,存在数据扭曲(dataskew)。上述针对经典Apriori算法的改进算法在生成频繁项目集时都需要多次扫描数据库,没有显著的减少I/O的代价。本文在分析了经典的Apriori算法的基础上,给出了…种改进的方法,该方法釆用转置矩阵的策略,只扫描一次数据库即完成频繁项目集的发现,在项目集长度较大时,性能明显提高。Apriori算法.1基本概念设I={il,i2,…,im}是二进制文字的集合,其中的元素称为项(item)o定义交易(transaction)T为项的集合,并且TII,定义D为交易T的集合
5、。设X是I中若干项的集合,如果XtT,那么称交易T包含Xo项目集中包含项的个数成为项口集长度。关联规则是形如XQY的蕴涵式,这里Xil,Yil,并且XQY=Fo规则XbY在交易数据库D中的支持度是交易集合中包含X和Y的交易数与所有交易数之比,记为support(XPY),即support(XI)Y)=
6、{T:XEYIT,TID}
7、/
8、D
9、O规则XPY在交易集中的置信度是指包含X和Y的交易数与包含X的交易数之比,记为confidence(XPY),即confidence(XPY)=
10、{TrXEYIT,
11、TID}
12、/
13、{T:XIT,TID}
14、o给定一个交易集D,挖掘关联规则就是找出支持度和置信度分别大于用户给定的最小支持度(minsup)和最小置信度(minconf)的关联规则。.2基本思想1994年Agrawal等人在项目集格空间理论的基础上提出了用于发现频繁项口集的Apriori算法。该算法采用“逐层搜索”的迭代方法,用k-项集生成(k+1)-项集。首先,扫描数据库计算出频繁1-项集的集合;然后,执行下面的迭代过程计算频繁k-项集,直到生成频繁k-项集的集合为空:%1连接:Lk-1进行自连接运算
15、,牛成候选k-项集的集合。所有的频繁k-项集都包含在Ck集合屮。%1剪枝:①生成的Ck是Lk的超集,扫描数据库计算Ck中每个候选项目集的支持度,支持度大于用户给定最小支持度的候选k-项目集就是频繁k-项目集。通过上述的迭代过程,可以发现项目集I在给定数据库D中满足最小支持度的所有频繁项目集。•3算法分析Apriori算法在执行“连接-剪枝”的迭代过程中,需要多次扫描数据库,如果生成的频繁项目集中含有10-项集,则需要扫描10遍数据库,增大了I/O负载。并且在迭代过程屮,候选项口集合Ck是以指数速度增
16、长的,Lk-1自连接会产生大量的候选k-项目集,例如有104个1-项集,自连接后就可以产生大约107个候选2-项集。这些都严重影响了Apriori算法的效率。改进的Apriori算法.1改进思想Apriori算法在迭代过程中多次扫描数据库和产生大量的候选项口集形成了算法的性能瓶颈。为了提高算法的效率本文进行如下改进:数据库D中每个交易T都有一个唯一的编号TIDo定义K-项集Rk=,其中Xk=(ijl,ij2,…,ijk),ijl,ij2,…,ijkll,jllD}。根