基于dropout深度信念网络的人脸图像识别研究

《基于dropout深度信念网络的人脸图像识别研究》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、为了确保“教学点数字教育资源全覆盖”项目设备正常使用，我校做到安装、教师培训同步进行。设备安装到位后，中心校组织各学点管理人员统一到县教师进修学校进行培训，熟悉系统的使用和维护。基于Dropout深度信念网络的人脸图像识别研究　　摘要：针对深度神经网络在只存在少量训练样本时容易出现过拟合的问题，文中将Dropout算法与深度信念网络相结合，以解决神经网络在训练阶段识别正确率高，但在测试阶段识别正确率不高的问题。将加入Dropout的深度信念网络和未加入Dropout的网络在ORL人脸库中进行对比，实验

2、结果表明，加入Dropout网络的系统误识率更低，对于防止过拟合有很好的效果。　　关键词：深度信念网络；过拟合；Dropout；人脸识别　　中图分类号：TP391文献标识码：A文章编号：2095--00-03　　0引言　　人脸识别技术属于生物特征识别技术，归属于热门的计算机技术研究领域。人脸识别方法包括以下几种：　　几何特征方法[1]：通过眼睛、鼻子、嘴巴等五官的几何位置进行识别；　　特征脸方法[2]：将人脸图像变换到一个低维空间上，进行相似性衡量和分类学习实现人脸识别；　　神经网络方法[3]：通过学

3、习图像的低维特征到高维特征的映射，得到人脸图像的本质特征，具有非常好的识别效果。为了充分发挥“教学点数字教育资源全覆盖”项目设备的作用，我们不仅把资源运用于课堂教学，还利用系统的特色栏目开展课外活动，对学生进行安全教育、健康教育、反邪教教育等丰富学生的课余文化生活。为了确保“教学点数字教育资源全覆盖”项目设备正常使用，我校做到安装、教师培训同步进行。设备安装到位后，中心校组织各学点管理人员统一到县教师进修学校进行培训，熟悉系统的使用和维护。　　近几年，深度学习取得了巨大进步，特别是在图像识别、语音识别

4、、自然语言处理等领域取得了突破性进展[4]。XX年，AlphaGo首次打败围棋专业棋手韩国名将李世石，让深度学习进入到了公众视野。深度学习是一种模仿人类深度脑组织结构，采用分层处理方式处理数据，对输入数据提取不同水平的特征，并逐层形成从低层信号到高层特征对应表示的方法。目前，被广泛使用的深度学习方法包括稀疏自动编码算法[5]、深度卷积神经网络[6]和深度信念网络[7]等。其中，DBN是最具代表性的深度学习方法，具有较强的函数表征能力，能够从较少的样本中学习到最本质的数据特征。　　过拟合是深度神经网络学

5、习中的一个常见问题，即模型在训练集上能够较好地分类，但在测试集上却具有较高的误识率。Hinton首次提出Dropout策略[8]，即在模型训练阶段，Dropout以一定的概率将部分隐藏层神经元的输出设置为0，每一次训练都得到不同的网络结构，提高了网络泛化性能[9]。实验结果表明，将Dropout与DBN相结合的方法应用在人脸图像识别中取得了较好的效果。　　1DBN算法　　DBN算法模型　　XX年，多伦多大学的Hinton等人提出了DBN学习算法，即一种概率生成模型。DBN由多个受限玻尔兹曼机堆叠而成，

6、其结构如图1所示。为了充分发挥“教学点数字教育资源全覆盖”项目设备的作用，我们不仅把资源运用于课堂教学，还利用系统的特色栏目开展课外活动，对学生进行安全教育、健康教育、反邪教教育等丰富学生的课余文化生活。为了确保“教学点数字教育资源全覆盖”项目设备正常使用，我校做到安装、教师培训同步进行。设备安装到位后，中心校组织各学点管理人员统一到县教师进修学校进行培训，熟悉系统的使用和维护。　　RBM是一个二分图，由可视层和隐含层构成，层内无连接，层间互相连接。受限玻尔兹曼机是一种能量概率模型，其能量函数见式：　

7、　其中W为权值矩阵，a为可视层单元阈值，b为隐藏层单元阈值。网络越稳定，能量函数的值越小，求解目标即求取最小能量函数值。　　由于RBM同层节点之间无连接，因此相邻两层节点之间的条件分布相互独立，概率分布如式和所示：　　其中δ是sigmoid激活函数，其作用在于限定神经元输出振幅。　　在DBN中，每两个隐含层构成一个RBM，同时还包含一层反向传播网络，其结构如图2所示。DBN的训练过程包含预训练和微调。在预训练阶段，DBN采用自底向上的无监督训练方法训练每一层RBM，将输入作为第一层RBM的可视层，第一

8、层RBM的隐含层作为第二层RBM的可视层，依次类推，无监督地训练整个DBN网络。在微调阶段，采用自顶向下的方式对整个网络进行有监督的微调。　　Dropout神经网络模型描述　　假设有一个含有L层隐藏层的神经网络，其输入输出关系如式和：　　其中，z为输入向量，y为输出向量，w为权重，b为偏置向量，f为激活函数，其作用在于限定幅值，取f=1/）。为了充分发挥“教学点数字教育资源全覆盖”项目设备的作用，我们不仅把资源运用于课堂教学，还利用系统的特色栏目开展课外