卷积神经网络及其应用

《卷积神经网络及其应用》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、专业学位硕士学位论文卷积神经网络及其应用ConVolutionalNeuralNetworkandItsApplications作者学科、学指导完成姓名：专业：号：教师：蒸圭励垫拯日期：2014年4月21日大连理工大学DalianUniversityofTechnology大连理工大学学位论文独创性声明作者郑重声明：所呈交的学位论文，是本人在导师的指导下进行研究工作所取得的成果。尽我所知，除文中已经注明引用内容和致谢的地方外，本论文不包含其他个人或集体已经发表的研究成果，也不包含其他已申请学位或其他用途使用过的成果。与我一同工作的同志对本研究所做的贡献均已在论文中做了明确

2、的说明并表示了谢意。若有不实之处，本人愿意承担相关法律责任。学位论文题目：鲞塑益经圆鳖区基廑压作者签名：客2醯日期：趁I蚌—厶月j二日大连理工大学专业学位硕士学位论文摘要卷积神经网络(ConvolutionalNeuralNetwork，㈣是一种学习效率非常高的神经网络，本文详细介绍其模型原理及其在图像分类与大规模连续语音识别中的应用。CNN将特征抽取与分类过程相结合进行神经网络的训练，在图像分类领域获得了巨大成功。本文的实验部分使用CNN模型进行MNIST手写体数字识别，正确率明显优于传统方法。从2010年开始，深度神经网络(DeepNeuralNetwork，On)使

3、语音识别词错误率降低了20％一30％，是该领域的巨大突破。近年来学术研究表明，CNN可以获得比DNN更多的性能提升。本文的实验表明，CNN-HMM混合模型相对DNN．HMM混合模型可以继续降低词错误率。CNN、DNN通过优化方法学习参数的过程含有大量的矩阵运算。在大规模图像分类与语音识别中，这一过程将变得非常缓慢。使用NVIDIAGPU来加速矩阵运算，可以获得相对予CPU几十倍、上百倍的性能提升。为了克服过拟合问题，本文还探索了线性校正单元(RectifiedLinearUnits．ReLU)和Dropout等新技术。图像分类的实验表明ReLU、Dropout可以提高CN

4、N的泛化能力。关键词：卷积神经网络；图像分类；语音识别；ReLU：Dropout卷积神经网络及其应用TheConvolutionalNeuralNetworkandItsApplicationsAbstractConvolutionalNeuralNetwork(CNN)isallefficientlearningneuralnetwork．111ispaperprovidesdetailedanalysisaboutitsbasictheoryandapplicationsinimageclassificationandlarge-scalecontinuousspee

5、chrecognition．CNNcombinesfeatureextractionandclassificationprocessforneuralnetworktrainingandgetssignificantsuccessinthefieldofimageclassification．Inexperimentalsectionofthispaper，MNISThandwrittendigitrecognitionusingCNNmodelgetsbetterresultthantraditionalmethods．Since2010，DeepNeuralNetwo

6、rk(DNN)makesspeechrecognitionworderrorratereduce20％一30％，whichisagreatbreakthroughinthefield．Inrecentyears，AcademicresearchsuggeststhatCNNCangainmoreperformanceimprovementthanDNN．劢eexperimentalresultsshowthatCNN·HMMhybridmodelCancontinuetoreducingtheworderrorrate，comparedtoDNN-HMMhybridmod

7、el．TheoptimizationprocessofCNNandDNNcontainsalotofmatrixoperations．Inlarge-scaleimageclassificationandspeechrecognition，theprocesswillbeveryslow．UsingtheNVIDIAGPUtospeedupthemarxoperationscangetdozensorevenhundredtimesfasterthanCPU．InordertOovercomethefittingproblem