深度非负矩阵分解算法研究

《深度非负矩阵分解算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、分类号TP391密级公开UDC004.93学位论文编号D-10617-30852-(2016)-02037重庆邮电大学硕士学位论文中文题目深度非负矩阵分解算法研究英文题目StudyonDeepNon-negativeMatrixFactorizationAlgorithm学号S130231038姓名曲省卫学位类别工程硕士学科专业计算机技术指导教师曾宪华教授完成日期2016年6月1日重庆邮电大学硕士学位论文摘要I重庆邮电大学硕士学位论文摘要摘要非负矩阵分解是一种有效的局部特征提取方法，具有分解速度快、实现简单以及分解结果物理意义明确等优点，在图像处理、语音信号处理、文本聚类等多个领域有着广泛的

2、应用，已成为特征提取、数据分析领域的重要研究方向。对于复杂的数据，仅用非负矩阵分解进行单次分解组成的单层网络，无法对数据多角度的特征表达。为了能够学习、表示高阶抽象概念的复杂数据，利用深层网络来分层特征提取策略是需要的。而另一方面，基于非负矩阵分解来构建深层网络的深度非负矩阵分解，能在保持“整体是由部分组成的”这一现实的基础上，利用深层网络结构对于复杂数据进行分层特征提取，这能将非负矩阵分解和深度网络两者的优势结合起来，对其深入研究具有重要的现实意义。主要创新工作有：1.提出了图正则化的半非负矩阵分解算法。该算法针对半非负矩阵分解算法未考虑复杂数据内在几何结构的问题，在矩阵分解时，如果利用数

3、据的几何结构和局部不变性特征来学习特征，就能够对数据进行更好的特征表达。该算法在半非负矩阵分解的基础上，通过构造一个邻接图来编码数据空间的几何信息。在COIL20和CMUPIE数据集上的聚类性能、降维效率和特征稀疏性实验表明：和非负矩阵分解、投影半非负矩阵分解、半非负矩阵分解、图正则化的非负矩阵分解、有约束的非负矩阵分解、判别式投影非负矩阵分解相比，图正则化的半非负矩阵分解在降维效率没有降低的情况下，有着更强的聚类性能和更好的稀疏性。2.提出了图正则化的深度半非负矩阵分解算法。该算法针对图正则化的半非负矩阵分解作为一个单层网络无法对数据进行深层特征表达，及深度半非负矩阵分解未考虑复杂数据内在

4、几何结构的双重问题，利用图正则化的半非负矩阵分解构造深层网络来进行特征学习。在COIL20和CMUPIE数据集上的重建误差和聚类性能实验表明：和半非负矩阵分解、图正则化的半非负矩阵分解、深度半非负矩阵分解相比，图正则化的深度半非负矩阵分解在没有增加重建误差的情况下，有着更强的聚类性能，并能通过逐层特征提取，实现对复杂数据更高层次的特征表示。3.提出了双向非负深度学习算法。该算法针对投影非负矩阵分解作为一个单层结构无法学习丰富的数据特征，以及近几年提出的各种多层非负矩阵分解模型多数还是一个浅层的网络，对数据的学习能力有限等问题，通过将投影非负矩阵分解多II重庆邮电大学硕士学位论文摘要次分解形成

5、一个包含多个隐层的非负深网络，从而对输入数据进行逐级提取，实现对数据更高层次的特征表示；预训练之后，对整个网络的微调可使得对原始数据有着良好重建功能。在COIL20、COIL100和CMUPIE数据集上的聚类实验表明：和深度半非负矩阵分解、图正则化的深度半非负矩阵分解相比，双向非负深度学习有着更强的聚类性能，并能通过逐层特征提取，实现对复杂数据更高层次的特征表示。关键词：非负矩阵分解，深度学习，深度非负矩阵分解，降维，聚类III重庆邮电大学硕士学位论文AbstractAbstractNonnegativeMatrixFactorizationisaneffectivemethodforloc

6、alfeatureextraction,whichhastheadvantagesoffastdecomposition,simplerealization,andclearphysicalmeaning,andhaswideapplicationsinimageprocessing,speechsignalprocessing,textclusteringandsoon.Ithasbecomeanimportantresearchdirectionoffeatureextractionanddataanalysis.Withregardtothecomplexdata,onlyusingt

7、hesinglelayernetworkcomposedbyNMFcannotexpressthecharacteristicsofthedatafrommultipleangles.Inordertolearnandexpressthehighlevelandcomplexdata,itisnecessarytousemulti-layernetworktofeatureextraction.Andonth