你需要知道的深度学习的10个方法.doc

《你需要知道的深度学习的10个方法.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、你需要知道的深度学习的10个方法你需要知道的深度学习的10个方法你需要知道的深度学习的10个方法　　在过去十年中，人们对机器学习的兴趣激增。几乎每天，我们都可以在各种各样的计算机科学课程、行业会议、华尔街日报等等看到有关机器学习的讨论。在所有关于机器学习的讨论中，许多人把机器学习能做的事情和他们希望机器学习做的事情混为一谈。从根本上讲，机器学习是使用算法从原始数据中提取信息，并在某种类型的模型中表示这些信息。我们使用这个模型来推断还没有建模的其他数据。　　神经网络是机器学习的一种模型，它们至少有5

2、0年历史了。神经网络的基本单元是节点（node），基本上是受哺乳动物大脑中的生物神经元启发。神经元之间的连接也以生物的大脑为模型，这些连接随着时间的推移而发展的方式是为“训练”。　　在20世纪80年代中期和90年代初期，许多重要的模型架构进步都是在神经网络中进行的。然而，为了获得良好性能所需的时间和数据越来越多，这极大的降低了研究人员的兴趣。在21世纪初期，计算能力呈指数级增长，研究人员看到了计算机技术的“寒武纪爆发”。作为该领域的一个重要竞争者——深度学习，因为计算能力的爆炸式增长，赢得了许多重

3、要的机器学习竞赛。截至目前，这种趋势仍然没有减退;今天，我们看到机器学习的每个角落都提到了深度学习。　　最近，我开始阅读有关该深度学习的学术论文。根据我的研究，以下是一些对该领域的发展产生巨大影响的出版物：　　纽约大学基于梯度的学习应用于文档识别（1998），它将卷积神经网络引入机器学习世界。　　多伦多大学的DeepBoltzmannMachines（2009），它为Boltzmann机器提供了一种新的学习算法，包含许多隐藏变量层。　　斯坦福和谷歌使用大规模无监督学习构建高级功能（2012），解决

4、了仅使用未标记数据构建高级，类特定功能检测器的问题。　　Berkeley的DeCAF-一种用于通用视觉识别的深度卷积激活功能（2013），它发布了DeCAF，这是一种深度卷积激活功能的开源实现，以及所有相关的网络参数，使视觉研究人员能够进行深度实验跨越一系列视觉概念学习范例的表示。　　DeepMind使用DeepReinforcementLearning（2016）播放Atari，它提供了第一个深度学习模型，可以使用强化学习直接从高维感觉输入成功学习控制策略。　　通过研究和学习论文，我学到了很多关

5、于深度学习的丰富知识。在这里，我想分享AI工程师可以应用于机器学习问题的10种强大的深度学习方法。但首先，让我们来定义深度学习是什么。深度学习对于许多人来说是一个挑战，因为它的形式在过去十年中逐渐发生了改变。为了向各位更好的说明深层学习的地位，下图说明了人工智能，机器学习和深度学习之间关系的概念。　　　　人工智能领域很广泛，并且已经存在了很长时间。深度学习是机器学习领域的一个子集，而机器学习只是人工智能的一个子领域。将深度学习网络与之前的前馈多层网络进行区分：　　深度学习比以前的网络更多的神经元；

6、　　深度学习中有更复杂的连接层的方式；　　“寒武纪爆炸”的提供的计算能力；　　深度学习可以自动进行特征提取。　　当我说到“更多神经元”时，是指近年来神经元的数量不断增加，深度学习就可以表示更为复杂的模型。层也从多层网络中每一层的完全连接，进化成卷积神经网络中神经元片段的局部连接，以及与递归神经网络中的同一神经元的循环连接（与前一层的连接除外）。　　深度学习可以被定义为具有大量参数和层数的神经网络：　　无人监督的预训练网络；　　卷积神经网络；　　循环神经网络；　　递归神经网络。　　在这篇文章中，我主

7、要对后三种网络进行讲解。卷积神经网络（CNN）基本上式已经跨越使用共享权重的空间延伸的标准神经网络。CNN旨在通过在内部的卷积来识别图像，该卷积看到图像上识别对象的边缘。递归神经网络基本上是一个使用时间延伸扩展空间的标准神经网络，它提取进入下一时间步的边沿，而不是在同一时间进入下一层。RNN进行序列识别，例如语音或文本信号，因其内部具有循环，意味着在RNN网络中存在短时记忆。递归神经网络更类似于分层网络，其中输入序列实际上与时间无关，但输入必须以树状方式分层处理。下面的10种方法可以应用于所有这些

8、架构。　　反向传播　　Back-prop反向传播只是一种简单计算函数的偏导数的方法，它具有函数组合的形式（如神经网络中）。当你使用基于梯度的方法解决最优化问题（梯度下降只是其中之一）时，你希望在每次迭代时计算函数渐变，这个时候它便可以发挥作用。　　　　对于神经网络，其目标函数具有组合的形式。你如何计算梯度？有两种常见的方法可以做到：（i）分析微分法。如果你知道函数的形式，你只需使用链式规则（基本微积分）计算导数。（ii）有限差分的近似微分。该方法在计算上是昂贵的，因为评估函数的数量