机器学习与应用 第07讲卷积神经网络ppt课件.ppt

《机器学习与应用 第07讲卷积神经网络ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、卷积神经网络简介视觉神经系统的原理卷积神经网络的核心思想卷积运算卷积层的原理多通道卷积池化层的原理全连接层卷积网络结构训练算法简介卷积层的反向传播池化层的反向传播全连接层的反向传播完整的反向传播算法随机梯度下降法参数值初始化学习率的设定梯度下降法的改进迁移学习与finetune卷积神经网络简介是各种深度神经网络中被使用最广泛的一种，由LeCun在1989年提出，被成功应用于手写字符图像的识别在这之后的很长时间内，卷积神经网络没有得到广泛关注和大规模应用2012年，有更深层次的AlexNet网络在图像分类任务中取得成功，此后卷积神经网

2、络高速发展被广泛用于机器视觉等领域，在很多问题上都取得了当前最好的性能通过卷积和池化层自动学习图像在各个尺度上的特征是一种仿生的方法，借鉴自动物的视觉神经系统视觉神经系统的原理人在认知图像时是分层进行的，首先理解的是颜色和亮度，然后是边缘、角点、直线等局部细节特征，接下来是纹理、形状、区域等更复杂的信息和结构，最后形成整个物体的概念视觉神经科学之前对于视觉机理的研究已经证明了大脑的视觉皮层具有分层结构眼睛将看到的物体成像在视网膜上，视网膜把光学信号转换成电信号，传递到大脑的视觉皮层（Visualcortex），视觉皮层是大脑中负责处

3、理视觉信号的部分David和Wiese的实验，1959HubelD.H,T.N.Wiesel.ReceptiveFieldsOfSingleNeuronesInTheCat'sStriateCortex.JournalofPhysiology,(1959)148,574-591在猫的初级视觉皮层内插入电极，在猫的眼前展示各种形状、空间位置、角度的光带，然后测量大脑神经元放出的电信号实验发现，当光带处于某一位置和角度时，电信号最为强烈；不同的神经元对各种空间位置和方向偏好不同视觉神经细胞具有选择性从视网膜传来的信号首先到达初级视觉皮层

4、（primaryvisualcortex），即V1皮层V1皮层简单神经元对一些细节、特定方向的图像信号敏感。V1皮层处理之后，将信号传导到V2皮层。V2皮层将边缘和轮廓信息表示成简单形状，然后由V4皮层中的神经元进行处理，它对颜色信息敏感。复杂物体最终在IT皮层（inferiortemporalcortex）被表示出来卷积神经网络的核心思想卷积神经网络可以看成是对视觉神经系统机制的简单模仿由卷积层，池化层，全连接层构成，通过多个卷积、池化层提取图像在各个尺度上的特征每个卷积层包含多个卷积核，用这些卷积核从左向右、从上往下依次扫描整个

5、图像，得到称为特征图（featuremap）的输出数据网络前面的卷积层捕捉图像局部、细节信息，有小的感受野，即输出图像的每个像素只对应输入图像很小的一个范围；后面的卷积层感受野逐层加大，用于捕获图像更复杂，更抽象的信息经过多个卷积层的运算，最后得到图像在各个不同尺度的抽象表示卷积运算在数字图像处理领域，卷积是一种常见的运算可用于图像去噪，增强，边缘检测等问题，还可以用于提取图像的特征用一个称为卷积核的矩阵自上而下、自左向右在图像上滑动，将卷积核矩阵的各个元素与它在图像上覆盖的对应位置的元素相乘，然后求和，得到输出值Sobel边缘检测

6、算子卷积运算卷积运算经过卷积运算之后图像尺寸变小了，，如果原始图像是，卷积核为卷积结果图像为为了保证卷积之后的图像大小不变，可以做填充操作-padding，在周边补0，然后用尺寸扩大后的图像进行卷积需要考虑的问题卷积核的尺寸，一般行数和列数相等，而且为奇数卷积步长，一般为1，也可以设置成其他值卷积层的原理在图像处理中，卷积核矩阵的数值是根据经验人工设计的可以通过机器学习的手段来自动生成这些卷积核，从而描述各种不同类型的特征卷积神经网络就是通过自动学习的手段来得到各种有用的卷积核卷积层的每个卷积核实现的映射为这里需要使用激活函数，原因

7、和全连接神经网络相同需要多个卷积层每层需要多个卷积核感受野的概念卷积核在一次卷积操作时对原图像的作用范围称为感受野，不同的卷积层有不同的感受野。网络前面的卷积层感受野小，用于提取图像细节的信息；后面的卷积层感受野更大，用于提取更大范围的、高层的抽象信息多通道卷积卷积层每个卷积核的通道数必须和输入特征图像的通道数相同本层输出图像的通道数等于本层的卷积核数池化层的原理特征图像的维数很高，维数高不仅计算耗时，而且容易导致过拟合引入了下采样技术，也称为池化（pooling）操作对图像的某一个区域用一个值代替，如最大值或平均值。如果采用最大值

8、，叫做max池化；如果采用均值，叫做均值池化除了降低图像尺寸之外，池化带来的另外一个好处是一定程度的平移、旋转不变性，因为输出值由图像的一片区域计算得到，对于小幅度的平移和旋转不敏感池化层没有参数池化核的大小池化步长max池化是非线性