资源描述:
《高性能算法-深度学习》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库。
1、深度学习算法的研究与实现V1摘要深度学习近几年发展迅速,取得了突破性的进展。借助于深度学习算法,人类终于找到了如何处理“抽象概念”这个亘古难题的方法。本文首先介绍了深度学习的背景,然后对深度学习的研究过程以及发展现状进行了综述。接下来本文介绍了深度学习的基本原理,并在此基础上介绍了深度学习目前应用比较成功的几个领域的应用情况。在本文的最后,本文利用伯克利大学开发的Caffe深度学习平台进行了手写数字字符的识别的项目。数据来源于MNIST数据库,在经历生成符合Caffe的LMDB格式数据集、编写深度学习模型文件、本文编
2、写网络求解文件后,通过调用Caffe可执行文件对深度网络进行训练及测试,并得到最终的实验结果。在经历了1万次迭代后,实验结果显示卷积神经网络构成的深度学习网络可以达到99%以上的识别,显示出深度学习强大的识别能力。关键字:深度学习,Caffe,手写数字识别V1ABSTRACTDeeplearninghasdevelopedrapidlyinrecentyears,andhasmadebreakthroughprogress.WiththehelpoftheDeepLearningalgorithm,humanfoun
3、dawayhowtodealwiththeabstractconceptinourcommonproblem.ThispaperfirstlyintroducesthebackgroundoftheDeepLearningstudy,andthensummarizestheresearchprocessandthedevelopmentoftheDeepLearning.Next,thispaperintroducesthebasicprinciplesofdeeplearning,andonthebasisofth
4、at,theapplicationofthedeeplearningwasalsointroducedinsomeexcellentarea.Next,thispaperusestheCaffedeeplearningplatformdevelopedbyBerkeleyUniversitytocarryouttherecognitionofhandwrittennumeralcharacters.ThedataisfromtheMNISTdatabase,throughtheprocessofgeneratingL
5、MDBformatdataset,writingdeeplearningmodelfile,writingsolverfile,finallybycallingtheCaffeexecutablefiletotrainingandtestingofthedeeplearningnetwork,wegetthefinalexperimentalresults.After10thousanditerations,theexperimentalresultsshowthatthedeeplearningnetworkcom
6、posedofconvolutionalneuralnetworkscanreachmorethan99%oftherightrate,showingthestrongabilityofdeeplearning.Keywords:DeepLearning,Caffe,HandwrittennumeralcharacterrecognitionV目录1摘要12ABSTRACT23背景介绍14研究过程与发展现状24.1研究过程24.1.1浅层学习和深度学习24.1.2深度学习与人工神经网络34.2发展现状54.2.1初始
7、化方法、网络层数和激活函数的选择54.2.2模型结构64.2.3学习算法65深度学习基本原理85.1深度学习的基本思想85.2深度学习训练过程85.3自动编码机105.4卷积神经网络125.4.1卷积神经网络的结构135.4.2参数减少与权值共享145.4.3卷积神经网络总结156应用领域166.1语音识别166.2图像识别17V6.3自然语言处理176.4搜索广告CTR预估187深度学习实战演练197.1实验坏境的搭建197.1.1深度学习平台197.1.2安装依赖库197.1.3安装Caffe197.2实验概述2
8、07.3实验过程217.3.1生成指定的数据格式文件217.3.2编写深度网络模型文件227.3.3编写网络求解文件237.4实验结果248总结259参考文献2610附录(源代码)27V1背景介绍人工智能很久以来就是人类最美好的梦想之一。虽然计算机技术已经取得了长足的进步,但是到目前为止,还没有一台电脑能产生“自我”的意识。图灵在1950年的论