资源描述:
《一种基于边界约束的流形展开方法》由会员上传分享,免费在线阅读,更多相关内容在学术论文-天天文库。
1、更多技术文章,论文请登录www.srvee.com第36卷第4期自动化学报Vol.36,No.42010年4月ACTAAUTOMATICASINICAApril,2010一种基于边界约束的流形展开方法刘波1张鸿宾1摘要在流形学习的谱方法中,流形展开被表述为优化问题.这些优化问题的解是退化的,即所有的样本将被嵌入到同一个点.为了避免退化解,谱方法对嵌入坐标人为地强加了一个单位协方差矩阵约束.然而,该约束往往导致流形展开的失真非常明显.本文提出一种新的流形学习方法,彻底抛弃了人为的单位协方差矩阵约束.主要思路是先对流形边界进行嵌入,然后再求流形内部的嵌入;流形边界的嵌入位置被确定后,流形内部样
2、本的嵌入位置将被边界拉开,使得它们不会都收缩到一个点上,从而避免了退化解的出现.将流形边界的嵌入位置作为边界条件,求解一个线性方程组来得到内部样本的嵌入;该线性方程组反映了尽量保持邻近样本间距离不变的要求.流形边界的嵌入由简化流形的嵌入求出;为此,本文还设计了一种流形边界检测算法以及一种流形简化算法.与目前代表性的几种流形学习方法进行了比较实验,结果表明了本文方法的有效性,其展开失真比谱方法明显要小.关键词流形学习,非线性降维,嵌入,展开,谱方法DOI10.3724/SP.J.1004.2010.00488AManifoldUnfoldingMethodBasedonBoundaryCon
3、straints11LIUBoZHANGHong-BinAbstractInthespectralmethodsofmanifoldlearning,themanifoldunfoldingtasksareformulatedasoptimizationproblems.Theoptimalsolutionstotheseproblemswillembedallsamplesintoonepoint.Toavoidthedegeneratesolutions,thespectralmethodsimposeaunitcovarianceconstrainttotheembeddingcoo
4、rdinates.However,thisconstraintusuallycauseshighlydistortedembeddings.Anewmanifoldunfoldingmethodisproposedinthispaper,whichdiscardstheunitcovarianceconstraintcompletely.Thecentralideaistoembedthemanifoldboundaryat¯rst,thentheinnerregions.Theembeddingpositionsofinnersampleswillbepulledoutbytheembe
5、ddedboundarytoavoidcollapsingintoonepoint.Theembeddingofinnersamplesisobtainedbysolvingalinearsystemthatre°ectslocalisometryrequirement,usingtheembeddingofboundaryasaboundarycondition.Theembeddingofboundaryisdeterminedbyasimpli¯edversionofmanifold,andamanifoldboundarydetectionalgorithmandamanifold
6、graphsimpli¯cationalgorithmarethusalsoproposed.Experimentalresultsonsyntheticandrealdatasetsdemonstratethee®ectivenessofourmethod,whichresultsinlessmappingdistortionthanspectralmethods.KeywordsManifoldlearning,nonlineardimensionalityreduction,embedding,unfolding,spectralmethods在模式识别与机器学习中,许多问题的输入变
7、.这个非线性映射往往也被称为嵌入(Embed-空间维数虽然很高,但其内在的自由度却要小得ding)或展开(Unfolding).近年来,人们提出了许多;输入数据的变化往往由少数内在参数所控制,多非线性降维的方法,代表性的有Isomap[1],LLE使数据分布在高维输入空间中的一个低维流形(Locallylinearembedding)[2],Laplacianeigen-上.目前的流形学习研究主要集中在对流形进行maps