数据挖掘分析

《数据挖掘分析》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、基于卷积神经网络的深度学习及其在交通标示识别中的应用目录一、卷积神经网络11」稀疏连接11.2权重共享21.3最大池采样21.4Softmax回归3二、卷积神经网络在交通标示识别中的应用32」卷积层的构建42.2釆样层的构造方法42.3分类层的构建52.4图像预处理52.5卷积神经网络实验结果62.6卷积神经网络和多层感知器结合的实验结果8三、总结10一、卷积神经网络卷积神经网络（CNN）是多层感知器（MLP）的变种。我们知道视觉皮层的细胞存在一个复杂的构造。这些细胞对视觉输入空间的子区域非常敏感，我们称之为感受野，以这种方式平铺覆盖到整个视野区域。这些细胞可以分为两种一类型，简单细胞和

2、复杂细胞。简单细胞最大程度响应来自感受野范围内的边缘刺激模式。复杂细胞有更大的接受域，它对来自确切位置的刺激具有局部不变性。1.1稀疏连接在BP神经网络中，每一层的神经元节点是一个线性一维排列结构，层与层各神经元节点之间是全连接的。卷积神经网络中，层与层之间的神经宠节点不再是全连接形式，利用层间局部空间相关性将和邻每一层的神经元节点只与和它相近的上层神经元节点连接，即局部连接，这样就得到了本文中使用的卷积神经网络结构。图1.1稀疏连接方式示意图假设n>l层为输入层。在BP神经网络中，层神经元节点和n>l层所有神经元节点连接。卷积神经网络中，m层的神经元节点只与和它相近的三个节点连接。这样

3、大大降低了神经网络架构的参数规模。1.2权重共享在卷积神经网络中，卷积层的每一个卷积滤波器重复的作用于整个感受野中,对输入图像进行卷积，卷积结果构成了输入图像的特征图，提取岀图像的局部特征。每一个卷积滤波器共享相同的参数，包括相同的权重矩阵和偏置项。图1.2权重共享示意图在上图屮层特征图像包含个神经元，不同的连接线Z间权重参数是共享的,我们仍然可以用梯度下降法去学习共享权重参数，只需要对原有的梯度下降法做一个很小的改进，共享权重的梯度是共享连接参数梯度之和。共享权重的好处是在对图像进行特征提取时不用考虑局部特征的位置。而且权重共享提供了一种有效的方式，使要学习的卷积神经网络模型参数数量大

4、大降低。1.3最大池采样另一个关于卷积神经网络的重要概念是最犬池釆样，它是一种非线性降采样方法。在通过卷积获取图像特征之后是利用这些特征进行分类。我们可以用所有提取到的特征数据进行分类器的训练，但这通常会产生极大的计算量。例如：对于一个48X48像素的图像，假设我们通过在卷积层定义了300个4X4大小的卷积滤波器，每个卷积核与图像卷积都会得到一个（48・4+1）X（48-44-1）维的卷积特征，由于有300个特征，所以每个样例都会得到一个45X45X300=607,500维的卷积特征向量。学习一个如此规模特征输入的分类器I-分困难，很容易出现过拟合现象，得不到合理的结果。所以我们在获取图

5、像的卷积特征后，要通过最大池采样方法对卷积特征进行降维。我们将卷积特征划分为数个nXn的不相交区域，用这些区域的最大（或平均）特征来表示降维后的卷积特征。这些降维后的特征更容易进行分类。最大池釆样在计算机视觉中的价值体现在两个方面：（1）它减小了来自上层隐藏层的计算复杂度（2）这些池化单元具有平移不变性，即使图像有小的位移，提取到的特征依然会保持不变。为了理解池化的不变性，我们假设有一个最大池层级联在卷积层之后。一个像素点可以在输入图像上的八个方向平移。如果最大池层的滤波窗口尺寸是2X2的，卷积层中一个像素往8个可能的方向平移，其中有三个方向会产生同样的输出。如果最大池层的滤波窗口增加到

6、3X3,平移不变的方向会增加到5个。由于增强了对位移的鲁棒性，最大池采样方法是一个高效的降低数据维度的采样方法。1.4Softmax回归Softmax回归是在逻辑回归的基础上扩张而来，它的目的是为了解决多分类问题。在这类问题中，训练样本的种类一般在两个以上。Softmax回归在类似手写数字识别问题中可以取得很好的分类效果，这个问题是为了对0・9这10个手写数字进行区分。Softmax回归是有监督学习算法，它也可以与深度学习或无监督学习方法结合使用。二、卷积神经网络在交通标示识别中的应用道路交通标示识别是智能交通系统的重要组成部分，它对车辆行驶过程屮道路上出现的标示信息进行采集和识别，及吋

7、对驾驶员做出提示或警告，在紧急时刻直接控制车辆的操作，以预防交通事故的发牛，保证行车安全。它是车辆智能化和自动驾驶技术的重要软件支撑，具有重要的理论意义和实用价值。卷积神经网络是分层神经网络，由卷积层和子抽样层交替组成，来模拟视觉神经的简单细胞和复杂细胞，卷积神经网络不同模型的区别Z处在于卷积层和子抽样层的实现方式和它们的训练方式。下图是卷积神经网络的主要架构的简单描述。输入J310全址檢艮金建績层L3标签图1卷积神经网络简单描述2