深度神经网络算法研究及应用

《深度神经网络算法研究及应用》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、深度神经网络算法研究及应用刘念王枫沈阳理工大学信息与工程学院中共辽宁省委党校导出/参考文献关注分享收藏打印摘要：深度神经网络通过低层特征组合从而形成高层特征，以此来找出数据分布特征形式，深度祌经网络同时也是人工智能研宄领域的重点。伴随计算机技术发展以及数字设备数量增长，数据以非常快的速度增长，如何对快速增长的数据进行有效利用并且挖掘其价值，是面对海量数据需要思考的问题。本文就深度神经网络算法研宄及应用做简要阐述。关键词：深度祌经网络算法;研宄;应用;作者简介：刘念（1960一），女，汉族，辽宁沈阳人，硕士

2、，教授，研究方向：信息化研发，控制应用研宂。人工神经网络最早是由国外科学家提出的，通过对神经元进行模仿，从而来处理信息。人工神经网络经历了一个漫长的发展阶段，近年来研究工作取得了突破性的进展，并iL其技术己经在相关领域应用。1深度神经网络理论深度神经网络理论是一种机器学习方法，是基于人脑学习思想而提出的，也可以将其称之为深度学习。深度神经网络的核心思想可以将其概述为每一网络预训练釆用的是无监督学习，每一层逐渐训练，下一层输入即是上一层输出，对所有学＞J层进行微调工作则是由有监督学＞』来完成的。与传统神经网

3、络相比，深度神经网络的区别主要体现在训练机制，为克服传统神经网经络训练速度慢以及容易过拟合等方面不足，深度神经网络在训练机制方面主耍是逐层预训练。深度神经网络常见的模型括了卷积神经与深度信念模型，编码器模型［1］。2深度神经网络的三种常见模型2.1深度信念网模型该模型其预训练主耍是逐层训练RBM从而得到模型结构。而微调则是在最后输出层增加与目标分类对应的输出层，之后通过传统BP算法对模型参数进行微调，经过上述步骤就可以得到深度神经网络模型。该模型主要描述数据间高阶相关性与类别联合概率分布，属于概率生成模型

4、。2.2卷积神经网模型卷积神经网是人工神经分类中的一种，其应用领域非常广泛，如图像识别。结构方面其釆用的是权值共享方式，与生物祌经网络非常类似，优点体现在网络权值数量减少。卷积神经网络构造的0的就是为了处理图形，其每一层都由数量众多的二维平面构成，而平面又是由数量不等的神经元构成，并且神经元是相互独立的。阁像经过卷积后特征变换阁产生从而得到第一层，之后经过函数特征变化得到第二层，对变换值进行滤波处理从而得到第三层，第四层的特征产生同样是由函数变换而得到的。特征在最后经过光栅化后，连接成为特征向量输入祌经网

5、络结构从而进行识别得到结果。2.3编码器模型(1)编码器模型来源。编码器是无监督的学习算法，也是神经网络组成部分之一。该模型是一种非线性神经网络结构，能够复现输入信号。而为了实现复现输入目标，编码器就需要捕捉主要元素并且这些元素可以表示原始输入数据。机器学＞』算法中，编码器有着十分重要的地位，该模型则是基于神经网络模型演变而来的。而编码器模型又可以对其进行细分。(2)自动编码器。自动编码器组成利用的是神经网络的某些特点，在神经网络中当设定的输出与输入二者相等时，神经网络就和当于输入从自身到映射过程。传统神

6、经网络中，输入信息是带有标签的，并且输入是组合的形式，网络权重值调整依据是输出与标签二者间的差异。对自动编码器模型进行预训练，输入是无标签数据，为了实现复现数据输入和，因此在网络建模单元増加Y解码器。编码过程是将数据输入到屮间层，解码过程则是由中间层到输出层。信息输入到编码器，会得到一个编码，编码体现了输入的另外一种表示，之后通过解码器就会得到输出信息。如果输出与输入的信息是相同的，编码则是输入信息的另外一种表示，通过对编码器与解码器参数的调整从而使输入、输出重构误差达到最小，此吋就能够得到编码。鉴于是正

7、向运算，编码器屮间层能够对输入信号进行完整描述，即从屮间层对信号进行重构。数据不带有标签，误差来源则可以从重构与原始信息二者间来获取m。(3)单层降噪自动编码器。单层降噪自动编码器。该类型编码器是对自动编码器的改造，其思想是通过学习的方法去除噪声并且获得数据，数据没有引入噪声。算法通过噪声引入以此来提升鲁棒性，增强其泛化能力。(4)深度降噪自动编码器。深度神经网络其核心思想就在于通过一定的学习方法从而來取得原始数据驱动变量以及特征。训练方法可以将其分为两个步骤，一是采用无标签数据学习模型参数，也可以将其称

8、之为模型预训练;二是利用少量带标签数据对模型参数进行微调，该步骤即模型参数微调。依据祌经IM络思想，降噪编码器是一定祌经元层堆叠，上层输入作为下层的输出，通过该训练方式从而达到规定层数。3深度神经网络的应用深度神经网络其应用的领域非常广泛，以列车为例，长期运行过程中，车轮性能会退化，轮轨关系也会逐渐产生变化，而导致变化产生的一个重要因素就是车轮磨损，轮轨关系的变化也会对行车安全造成一定的影响。轮对的受力情况非常的复杂，既承受了