机器人的学习研究进展：深度学习及应用

《机器人的学习研究进展：深度学习及应用》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、机器人的学习研究进展：深度学习及应用内容1.深度学习概述2.深度学习应用研究1.深度学习概述1.1概述1.2背景1.3人脑视觉机理1.4关于特征1.5深度学习的基本思想1.6浅层学习（ShallowLearning）和深度学习（DeepLearning）1.深度学习概述1.7Deeplearning与NeuralNetwork1.8Deeplearning训练过程1.9DeepLearning的常用模型或者方法1.1概述ArtificialIntelligence，也就是人工智能，就像长生不老和星际漫游一样，是人类最美好的梦想之一。虽然计算机技术已经取得了长足的进步，但是到目前为

2、止，还没有一台电脑能产生“自我”的意识。的确如此，在人类和大量现成数据的帮助下，电脑可以表现的十分强大，但是离开了这两者，它甚至都不能分辨一个喵星人和一个汪星人。1.1概述图灵（计算机和人工智能的鼻祖，分别对应于其著名的“图灵机”和“图灵测试”）在1950年的论文里，提出图灵试验的设想，即，隔墙对话，你将不知道与你谈话的，是人还是电脑。这无疑给计算机，尤其是人工智能，预设了一个很高的期望值。但是半个世纪过去了，人工智能的进展，远远没有达到图灵试验的标准。这不仅让多年翘首以待的人们，心灰意冷，认为人工智能是忽悠，相关领域是“伪科学”。1.1概述但是自2006年以来，机器学习领域，取

3、得了突破性的进展。图灵试验，至少不是那么可望而不可及了。至于技术手段，不仅仅依赖于云计算对大数据的并行处理能力，而且依赖于算法。这个算法就是，DeepLearning。借助于DeepLearning算法，人类终于找到了如何处理“抽象概念”这个亘古难题的方法。1.1概述2012年6月，《纽约时报》披露了GoogleBrain项目，吸引了公众的广泛关注。这个项目是由著名的斯坦福大学的机器学习教授AndrewNg和在大规模计算机系统方面的世界顶尖专家JeffDean共同主导，用16000个CPUCore的并行计算平台训练一种称为“深度神经网络”（DNN，DeepNeuralNetwor

4、ks）的机器学习模型（内部共有10亿个节点。1.1概述这一网络自然是不能跟人类的神经网络相提并论的。要知道，人脑中可是有150多亿个神经元，互相连接的节点也就是突触数更是如银河沙数。曾经有人估算过，如果将一个人的大脑中所有神经细胞的轴突和树突依次连接起来，并拉成一根直线，可从地球连到月亮，再从月亮返回地球）。“深度神经网络”在语音识别和图像识别等领域获得了巨大的成功。1.1概述项目负责人之一Andrew称：“我们没有像通常做的那样自己框定边界，而是直接把海量数据投放到算法中，让数据自己说话，系统会自动从数据中学习。”另外一名负责人Jeff则说：“我们在训练的时候从来不会告诉机器说

5、：‘这是一只猫。’系统其实是自己发明或者领悟了“猫”的概念。”1.1概述2012年11月，微软在中国天津的一次活动上公开演示了一个全自动的同声传译系统，讲演者用英文演讲，后台的计算机一气呵成自动完成语音识别、英中机器翻译和中文语音合成，效果非常流畅。据报道，后面支撑的关键技术也是DNN，或者深度学习（DL，DeepLearning）。2013年1月，在百度年会上，创始人兼CEO李彦宏高调宣布要成立百度研究院，其中第一个成立的就是“深度学习研究所”（IDL，InstitueofDeepLearning）。1.1概述为什么拥有大数据的互联网公司争相投入大量资源研发深度学习技术。听起来

6、感觉deeplearning很牛那样。那什么是deeplearning？为什么有deeplearning？它是怎么来的？又能干什么呢？目前存在哪些困难呢？这些问题的简答都需要慢慢来。咱们先来了解下机器学习（人工智能的核心）的背景。1.2背景机器学习（MachineLearning）是一门专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能的学科。1959年美国的塞缪尔(Samuel)设计了一个下棋程序，这个程序具有学习能力，它可以在不断的对弈中改善自己的棋艺。4年后，这个程序战胜了设计者本人。又过了3年，这个程序战胜了美国

7、一个保持8年之久的常胜不败的冠军。这个程序向人们展示了机器学习的能力，提出了许多令人深思的社会问题与哲学问题。1.2背景机器学习虽然发展了几十年，但还是存在很多没有良好解决的问题：1.2背景例如图像识别、语音识别、自然语言理解、天气预测、基因表达、内容推荐等等。目前我们通过机器学习去解决这些问题的思路都是这样的（以视觉感知为例子）：1.2背景从开始的通过传感器（例如CMOS）来获得数据。然后经过预处理、特征提取、特征选择，再到推理、预测或者识别。最后一个部分，也就是机器学习的部分