面向高维数据降维与分类的深度模型构建方法研究

《面向高维数据降维与分类的深度模型构建方法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、面向高维数据降维与分类的深度模型构建方法研究重庆大学硕士学位论文（学术学位）学生姓名：刘建环指导教师：张可副教授专业：控制科学与工程学科门类：工学重庆大学自动化学院二O一六年四月ResearchonConstructingDeepStructureModelforDimensionReductionandClassificationofHigh-dimensionalDataAThesisSubmittedtoChongqingUniversityinPartialFulfillmentoftheRequirem

2、entfortheMaster’sDegreeofEngineeringByLiuJianhuanSupervisedbyAssociateProf.ZhangKeSpecialty：ControlScienceandEngineeringCollegeofAutomationofChongqingUniversity,Chongqing,ChinaApril,2016重庆大学硕士学位论文中文摘要摘要不同行业结合的综合性的信息物理系统具有数据量大且数据维度高等特征，尤其是维度较高的数据不仅难以被人们直观理解，而且

3、也难以被现有的机器学习和数据挖掘算法进行有效地处理，因此数据降维是处理高维数据的一个重要手段，也是特征提取的重要工具。在数据降维处理方面，国内外众多学者已经有了大量的研究工作，但是在线性和非线性降维领域仍然存在着许多挑战性的问题。在大量阅读文献的基础上，本文分析了在线性降维和非线性降维中所存在的问题：线性降维算法一般都是在假设数据服从高斯分布的基础上进行处理，流形学习等非线性降维算法则因为不能给出数据降维的显式映射关系而使得应用受限。但是，在深度学习中，受限玻尔兹曼机由于具有类神经网络的记忆联想功能和独有的理论上

4、可以拟合任意分布的能力使得基于其构建的深度结构模型可以很好的解决上述问题。本文围绕数据降维问题展开研究，重点对线性降维算法和流形学习非线性降维算法进行研究，针对存在的问题构建了基于受限玻尔兹曼机的深度高维数据降维模型同时对其进行了结构上的优化。本文的主要工作包括以下几个方面：①对传统的线性降维算法和基于流形学习的非线性降维算法进行了分析与研究，并比较了它们之间的优缺点。②对深度学习的基础构造模块受限玻尔茨曼机进行介绍与分析，其在理论上可以对任意分布的数据进行拟合，而且可以将映射关系保存在可见层与隐含层之间的连接权

5、值中，因此可以很好解决上述存在的问题。③基于受限玻尔兹曼机构建深度高维数据降维模型并对其从结构上进行优化，同时从理论上和实验中都对有效性进行了验证，使得深度模型在不失精度的前提下尽可能的紧凑与简单，提高了计算速度和运行效率。④将深度高维数据降维模型及其优化后的模型应用于手写数字识别中，实验结果显示模型都具有非常高的识别精确度，尤其是基于隐含层节点单元可自适应调整的RBM构建的深度模型在高识别精度的同时还能尽可能的使用较少的隐含层节点单元，大大的提高了运算速度和节省了存储空间。关键词高维数据，数据降维，深度学习，R

6、BM，手写数字分类I重庆大学硕士学位论文英文摘要ABSTRACTComprehensiveinformationsystemscombinedbydifferentindustriesarecoming.Newlargeandcomplexsystemshavecharacteristicswithlargevolumesandhighdimension.Itisdifficulttounderstandforpeopleandalsodifficulttooperateformachinelearningand

7、dataminingalgorithm.Therefore,dimensionreductionisanimportanttooltohighdimensionaldataandfeatureextraction.Indimensionreductionprocessing,althoughmanyresearchershavebeendonealotofresearches,therearestillmanychallengingproblemsinthelinearandnonlineardimensionr

8、eduction.Onthebasisofmanyreferences,thispaperanalyzesproblemsoflineardimensionreductionandnonlineardimensionreduction.Lineardimensionreductionalgorithmisalwaysusedontheassumptionthatdatai