基于卷积神经网络的深度学习算法与应用研究

《基于卷积神经网络的深度学习算法与应用研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、基于卷积神经网络的深度学习算法与应用研究-->第一章绪论1.1课题研究背景和意义上世纪1980年代后期，反向传播算法（即BackPropagation算法，简称BP)的出现及其在人工神经网络学习过程中的应用13]，极大推进了机器学习的发展，引领了基于统计机器学习模型的发展浪潮。这个热潮一直延续至今。研究人员发现，反向传播算法的采用，可以使人工神经网络模型在训练过程中自动修正自身参数，使得网络模型能够更大程度拟合训练数据，从而通对使用大量的训练样本对神经网络进行训练学习得到统计规律，以预测未知事件的可能。和以往基于人工规则的方式相比，这种基于统计

2、规律的机器学习模式在诸多方面显示出极大优越性。尽管这个时期的人工神经网络也可以称为多层感知器（MultilayerPerceptron)[4],但实际上它是一种浅层模型只包含一层隐藏层节点。1.2国内外研究现状从2009年开始，微软亚洲研究院的语音识别专家们和深度学习领军人物Hinton取得合作。2011年微软公司推出了基于深度神经网络的语音识别系统，这一成果将语音识别领域已有的技术框架完全改变[18]。采用深度神经网络后，样本数据特征间相关性信息得以充分表示，将连续的特征信息结合构成高维特征，通过高维特征样本对深度神经网络模型进行训练。由于深

3、度神经网络采用了模拟人脑神经架构，通过逐层地进行数据特征提取，最终得到适合进行模式分类处理的理想特征。深度神经网络建模技术，在实际线上应用时，能够很好地和传统语音识别技术结合，语音识别系统识别率大幅提升[19]。国际上，谷歌也使用深层神经网络对声音进行建模，是最早在深度神经网络的工业化应用领域取得突破的企业之一。但谷歌的产品中使用的深度神经网络架构只有4-5层，与之相比百度使用的深度神经网络架构多达9层，正是这种结构上的差别使深度神经网络在线学习的计算难题得以更好的解决。这使得百度的线上产品能够采用更加复杂的神经网络模型这种结构差异的核心其实是

4、百度更好地解决了深度神经网络在线计算的技术难题，因此百度线上产品可以采用更复杂的网络模型。这对将来拓展大规模语料数据对深度神经网络模型的训练有更大的帮助。…………第二章人工神经网络和卷积神经网络的结构及算法2.1人工神经网络在计算机科学和相关领域中，人工神经网络是模拟动物中枢神示神经网络包含3个输入节点（偏置节点不计算在内），3个隐藏节点和一个输出节点。2.2卷积神经网络卷积神经网络（N)是多层感知器（MLP)的变种。由生物学家休博尔和维瑟尔在早期关于猫视觉皮层的研究发展而来。我们知道视觉皮层的细胞存在一个复杂的构造。这些细胞对视觉输入空间的子

5、区域非常敏感，我们称之为感受野，以这种方式平铺覆盖到整个视野区域。这些细胞可以分为两种—类型，简单细胞和复杂细胞。简单细胞最大程度响应来自感受野范围内的边缘刺激模式。复杂细胞有更大的接受域，它对来自确切位置的刺激具有局部不变性。……………第三章基于手写数字识别的卷积神经网络性能研究.........233.1MNIST手写数字识别库简介........233.2卷积神经网络构造和改进方法.........23第四章卷积神经网络在交通标示识别中的应用...........344.1卷积神经网络和多层感知器相结合的交通标示识别系统.........

6、34第五章总结和展望.............495.1工作总结.............495.2展望.............50第四章卷积神经网络在交通标示识别中的应用道路交通标示识别是智能交通系统的重要组成部分，它对车辆行驶过程中道路上出现的标示信息进行采集和识别，及时对驾驶员做出提示或警告，在紧急时刻直接控制车辆的操作，以预防交通事故的发生，保证行车安全[38]。它是车辆智能化和自动驾驶技术的重要软件支撑，具有重要的理论意义和实用价值。4.1卷积神经网络和多层感知器相结合的交通标示识别系统和文献[40]比较，本系统对卷积神经网络的实现

7、最大的不同在于使用了最大池采样层来替代子抽样层。在文献[41]对卷积神经网络的实现中，这些层被池抽样和均化操作取代，相邻的像素在卷积时被跳过，以达到降釆样的目的。最大池采样层的输出是由尺寸为(尺-，尤》大小的非重叠矩阵取最大值得到的。最大池采样提供了局部位移不变性，通过因子对输入图像的每一个方向进行降釆样。本实验中，最大池采样是通过一个2x2滤波窗口作用在特征图像区域，提取窗口中的最大值作为采样特征，对特征图像进行降采样。4.2基于多列深度卷积神经网络的交通标示识别系统我们在上一个实验中的卷积神经网络的基础上进行改进构建一个深度卷积神经网络用于

8、交通标示识别问题。深度卷积神经网络的基本架构和卷积神经网络相同，都是由一系列卷积层和最大池层交替组成，每一层只和前一层的神经元节点相连接，分层的特征提