稀疏学习及其在数据挖掘的应用

《稀疏学习及其在数据挖掘的应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、单位代码１０６０２学号２０１３０１１５３１分类号ＴＰ３９１密级公开方心＇？序◎吁錢Ｖ：：：＾ＧＵＡＮＧＸＩＮＯＲＭＡＬＵＮＩＶＥＲＳＩＴＹ硕壬学化冷文稀疏学习及其在数据挖掘的应用ＳｐａｒｓｅｌｅａｒｎｉｎｇａｎｄｉｔｓａｌｉｃａｔｉｏｎｓｉｎＤａｔａＭｉｎｉｎｐｐｇ学院；计算机科学与信息工程学院专业：计算机应用技术研究方向：数据挖掘年级；２０１３级研究生：程德波指导教师；张师超教授完成日期：２０１６年４月稀疏学巧及其在數据挖據的应巧专业名舞：计算应用

2、技术申请人：程德波指导教卿：张师起论文答辩委员会、主席：和４兮妻１１：ＡＭｌ－—私征稀疏学习及其在数据挖掘的应用年级：２０１３级导师：张师超教授姓名：程德波专业：计算机应用技术研究方向：数据挖掘、机器学习摘要数据挖掘处理的数据经常含有噪音样本和高维属性，稀疏学习已经显示能非常有效地反映数据之间的相关关系，即在学习的过程中对相关的样本或者属性学习出大的权重系数，不相关的样本或属性学习出小权重或者零权重系数。本文研究和扩展现有稀疏学习框架，提出新的稀疏学习模型对ｋ最近邻分类算法关于ｋ值难Ｗ确定的公

3、开性问题和高维数一些问题进行研究据的属性选择算法存在的。具体地说，一ｋｅｃ１提出了种基于稀疏学习和决策树的最近邻分类算法（ＤｉｓｉｏｎＴｒｅｅｋＮｅａｒｅｓｔ（）ＮｅｉｈｂｏｒＣｌａｓｓｉｆｉｃａｔｉｏｎａｌｏｒｉｔｈｍｂａｓｅｄｏｎｓａｒｓｅｌｅａｒｎｉｎｇ，ＤＴｋＮＮＣ。ｋ最近邻分类算法ｋｇｇｐ）（ＮｅａｒｅｓｔＮｅｉｇｈｂｏｒＣｌａｓｓ巧ｃ她ｏｎ，ｋＮＮＣ）由于简单易实现而旦效果显著被广泛的应用于数据分类问题，但是ｋＮＮＣ算法存在兰个缺陷：片）、ｋＮＮＣ算法的ｋ值难Ｗ取定；（ｉｉ）、固定ｋ值的ｋＮＮＣ

4、算法对数据分类时效果不能保证；片巧、改进的ｋＮＮＣ算法没有充分考虑数据的全局信息。因此，本文第Ｈ章提出的ＤＴｋＮＮＣ算法融合稀疏学习和样本自表达且与决策树技术结合来解决ｋＮＮＣ算法存在的不足。详细地说，ＤＴｋＮＮＣ算法利用稀疏学习来研究ｋＮＮ算法存在ｋ值难Ｗ取定的公开性难题，使用样本自表达技术考虑数据的全局信息来提高算法的效果，而且利用决策树的低时间复杂度来加速算法和提高分类效果。在真实数据的模拟实验中，ＤＴｋＮＮＣ算法比常见的ＡＤｋＮＮ、ＬＭＮＮ、ｋＮＮＣ算法效果要好。提出的基于稀疏学习框架的目标函数不但在一定程度上丰富了现有稀

5、疏模型框架同时也扩充了其应用范围，即将稀疏学习应用于数据分类方面。一Ｇ２提出了种基于子空间学习和图稀疏学习的属性选择算法（ｒａｈｓａｒｓｅｌｅａｒｎｉｎ（）ｐｐｇ一ｆｏｒＦｅａｔｕｒｅＳｅｌｅｃｔｉｏｎａｌｏｒｉｔｈｍｂａｓｅｄｏｎＳｕｂｓａｃｅｌｅａｒｎｉｎ，缩写为ＳＧＦＳ。属性选择是类ｇｐｇ＿）常见的用来处理髙维数据的方法，然而现有的属性选择方法存在Ｗ下缺階：简单地对所有一属性按某规则排序或者简单的通过稀疏学习获得属性之间的重要关系，没有很好的考虑到属性间的相关关系。本文第四章利用子空间学习的两种算法（线性

6、判别分析（ＬＤＡ）和局部保持投影（ＬＰＰ））考虑数据的全局特性和局部特性，同时将子空间学习算法嵌入现有基于稀疏学习的属性选择框架中）。该方法不仅具有子空间学习方法的优越性（即显著的分类效果还具有属性选择的优点（即可解释性）。在真实数据的模拟实验中，ＳＧＦＳ算法比ＮＦＳ、＿一ＰＣＡ、ＬＤＡ、ＬＰＰ、ＬＥ、Ｌ２１方法效果要好。提出的基于稀疏学习框架的目标函数在定程度上丰富了现有稀疏模型框架，同时也将稀疏学习推广应用于商维数据属性选揮方面。本文对数据挖掘领域中的ｋＮＮＣ算法关于ｋ值的难Ｗ取定和髙维数据的属性选择两个方面进行了研究，即

7、首先使用稀疏学习的理论和方法来解决这两个方面现有算法存在的缺Ｉ陷，然后提出了两种新的数据挖掘算法。论文中提出的每种算法都使用了真实的公开数据集进行实验验证和分析，，在各个评价指标下本文提出的两种算法均优于现有的常见算法。关键词：数据挖掘；子空间学习属性选择；稀疏学习；ｋＮＮ算法；样本自表达；决策树；ＩＩＳｐａｒｓｅｌｅａｒｎｉｎｇａｎｄｉｔｓａｐｐｌｉｃａｔｉｏｎｓｉｎＤａｔａＭｉｎｉｎｇＭａｏｒ：ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎＴｅｃｈｎｏｌｏｇｙＧｒａｄｅ：２０１３ｊＳｕｂｅｃｔ：Ｄａｔ

8、ａＭｉｎｉｎｇ＆ＭａｃｈｉｎｅＬｅａｒｎｉｎＮａｍｅ：ＤｅｂｏＣＨＥＮ