数据的约束性低维表示及其应用.pdf

《数据的约束性低维表示及其应用.pdf》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、ADissertationSubmittedtoZhejiangUniversityfortheDegreeofDoctorofPhilosophy⑧TITLE：ConstrainedLow—dimensionalData壁星卫!星墨星坠圭垒主iQ垒至坐鱼至主墨△卫卫!i堡垒鱼Q堡墨Author：Supervisor：里i坠gLiProf．ChunChen里!Q￡』i蓟坠坠旦坠Subject：．．．．．——ComputerScienceandTechnology．．———College：gQ!!星g星Q￡gQ堡卫坠±星!S堡i星塾堡星SubmittedDate

2、：』鱼塾坠亟!Y§，2Q!垒浙江大学博士学位论文摘要信息时代的蓬勃发展给人们创造了无限机遇，并深刻地改变了以往的生活和交流方式，但同时作为各类应用中重要表达载体的海量数据给机器学习、数据挖掘和计算机视觉等领域带来了各种严峻挑战。数据爆炸式的增长伴随着存储空间和计算资源的需求与目俱增，尤其是许多类型数据的表征维度非常高并含有冗余信息，如网页文本、基因表达和图像视频等等。这迫切需要新的方法和技术挖掘数据的低维潜在结构特征，降低数据处理的时空复杂度，节省计算开销。本文主要研究数据的约束性低维表示，探讨如何恰当地反映数据的本征结构，从而有效提高后续学习任务的性能。为此

3、，本文从不同的角度提出多种新的学习方法应用于不同的场景。具体而言，全文的主要贡献概括如下：研究联合聚类和谱聚类中的约束性数据低维表示问题，分别提出一种关系多流形联合聚类方法(RMC)和一种基于复合流形的局部判别谱聚类方法(SCCL)。RMC针对联合聚类中难以发现多类型关系数据(如样本数据和特征数据)真实流形的问题，基于对称非负矩阵三分解利用复合流形约束最大程度地逼近多类型关系数据的真实流形；该方法通过学习凸包中的一组候选流形的线性组合形成复合流形，充分考虑多样化流形提供的互补信息，恰当地估计关系数据的真实流形，有利于学习更具信息量的低维数据表示。SCCL基于传

4、统的谱聚类在利用复合流形近似数据的真实流形的同时考虑数据的判别约束信息，较大地提升了谱聚类的性能。在网页文本、手写体数字字母、物体图像、生物信息表达和人工数据上的成功应用表明了两种方法均能发挥各自的优越性能。研究基于非负矩阵分解的约束性数据低维表示，在线性回归模型的基础上考虑数据的局部结构约束和先验知识，提出局部约束性A一最优非负投影方法(LCA)。该方法的特点在于：1)将系数变量协方差的迹看做非负矩阵分解的正则项；2)当高维非负数据被投影到低维子空间时，相应的局部几何结构可通过数据点的邻居块得到较好地保持。3)通过辅助矩阵将作为先验知识的少量监督浙江大学博士

5、学位论文摘要信息融入到子空问学习中，有效地指导低维数据表示的学习。实验部分将LCA应用于人脸图像、手写体数字字母，以及网页文本，结果证实新方法可以获得比其他方法更令人满意的效果。研究基于概念分解的数据约束性低维表示，针对传统的概念分解和局部概念分解不能在非线性空间中反映数据几何结构的问题，分别提出流形核概念分解方法(MKCF)和基于图的局部概念坐标分解方法(GLCF)。两种方法均通过在变形再生核希尔伯特空间里通过流形核学习得到流形自适应核，反映非线性空间里数据的局部几何流形。这样，投影到低维空间里的数据表示能够很好地保持原始数据的局部结构特征。MKCF直接基于

6、概念分解进行流形核学习；而GLCF还利用局部坐标编码考虑局部稀疏约束，即每个数据点仅与少量的锚点足够接近，且每个潜在概念与相应的数据点尽可能接近。在网页和医疗文本、人脸和物体图像以及基因表达上应用这两种方法做聚类分析的结果很好地体现了新方法的优势和有效性。为了求解上述问题中出现的一系列目标函数，文中针对性地采用了乘数更新算法、广义变量更新算法、谱分析、熵镜像下降算法和坐标下降算法等优化方法。此外，文中对所提出的几种新方法进行了时问复杂度分析。关键词：低维数据表示，流形学习，非负矩阵分解，概念分解，聚类分析浙江大学博士学位论文AbstractTheflouris

7、hmentoftheinformationerahascreatedlimitlessopportunitiesforhumanbeings，whileithasprofoundlychangedtheirlifestyleandcommunicationwayinthepast，However,inmanypracticalapplications，largevolumesofdataastheimportantexpressioncarrierhasbroughtaboutabroadrangeofseriouschallengesinmachinelea

8、rning，dataminingand