DeepMind破解灾难性遗忘密码，让AI更像人.doc

《DeepMind破解灾难性遗忘密码，让AI更像人.doc》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、DeepMind破解灾难性遗忘密码，让AI更像人　　灾难性遗忘仍然是阻碍科学家建立通用人工智能（AGI）的主要障碍之一，DeepMind的团队试图破解这一难题，让AI拥有了想象力。　　暑假结束回到学校时，你可能会觉得前一年学过的东西已经统统忘光了。但如果你像人工智能系统那样学习，你会真的忘光光——当你第一天在课堂上坐下来时，你的大脑会把这当作一个提示，将过去一笔勾销，一切从头开始。　　AI系统有一种倾向，在获取新信息时将之前学到的东西忘掉，这被称为灾难性遗忘（catastrophicforgetting）。　　这是一个大问题。因为，先进的算法可

2、以说是在分析了无数的例子之后才学会被要求做的事情。例如，一个面部识别AI系统需要分析成千上万张人脸的图片，这些图片很可能是人工标注过的，这样它才能在人脸出现在视频流中的时候检测到。　　但是，因为这些AI系统并没有真正理解它们所做的事情的基本逻辑，所以教它们去做其他任何事情，即使这些事情与它们已经会的事情非常相似——例如，识别特定的情感——也意味着要从头开始重新训练算法。一旦算法训练好，它就完成了，就不能再更新了。　　多年来，科学家们一直试图找出解决这个问题的方法。如果解决了这个问题，AI系统将能够从一组新的训练数据中学习，而不会覆盖他们在这个过

3、程中已经学会的大部分内容。如果未来某天机器人崛起了，我们的新霸主将能够征服地球上所有的生命，同时还会嚼泡泡糖。　　但是，灾难性遗忘仍然是阻碍科学家建立通用人工智能（AGI）的主要障碍之一。AGI是一种无所不会、具有同理心和想象力的AI，就像我们在电视和电影中看到的那样。　　　　DeepMind破解灾难性遗忘密码　　上周在布拉格参加Human-Level人工智能联合多方会议的一些AI专家认为，灾难性遗忘的问题是他们认为不会很快实现AGI或human-levelAI的最重要的原因。　　不过，谷歌DeepMind的高级研究科学家IrinaHiggin

4、s在会议上的演讲中表示，她的团队已经开始破解灾难性遗忘的密码。　　她开发了一个AI智能体（类似一个由AI算法控制的电子游戏角色），这个智能体可以比典型的算法更有创造性地思考。它可以“想象”在一个虚拟环境中遇到的东西在其他地方看起来是什么样子的。换句话说，神经网络能够将它在模拟环境中遇到的某些物体从环境本身分离出来。　　AI的想象力人类的想象不同。在人类的想象中，我们可以创造出全新的心理图像（试着想象一只鸟，你脑海中可能会想象出一只虚构的圆滚滚的红色的鸟)。AI系统并不那么复杂，但它可以想象出已经在新的配置或位置上看到过的物体。　　“我们希望机器

5、能够在探索过程中学习有关安全的常识，这样它就不会对自身造成损害，”Higgins在演讲中说。本周早些时候，她的团队在arXiv上发表了题为“Life-LongDisentangledRepresentationLearningwithCross-DomainLatentHomologies”的论文。　　　　假设你正在穿越沙漠，你遇到了一棵仙人掌。是一种你漫画中会看到的那种巨大的、两茎的仙人掌。你立刻就能认出这是一棵仙人掌，因为你以前可能见过。也许你的办公室装饰了一些多肉植物。但即使你的办公室没有仙人掌，你也可以想象这个沙漠仙人掌在一个大陶罐里会

6、是什么样子。　　Higgins的AI系统也能做同样的事情。只需观察一个物体从不同角度看是什么样子的5个示例，AI就能了解它是什么，它与环境有怎样的关系，以及从其他角度或在不同光线下看它是什么样子。论文重点介绍了如何训练算法来识别白色行李箱或扶手椅。经过训练后，算法可以想象出这个物体在一个全新的虚拟世界中的样子，并在它遇到这个物体时识别出来。　　　　ImageCredit:EmilyCho　　Higgins说：“我们运行了我用来激发这个模型的精确设置，然后我们展示了一个环境的图像，要求这个模型想象一下在不同环境下它会是什么样子。”与具有entan

7、gledrepresentation的AI系统相比，她的新算法每次都在这项任务中表现更优，而后者只能预测较少的物体质量和特征。　　简言之，该算法能够注意到它所遇到的事物与过去所看到的事物之间的差异。和大多数其他算法不同的是，Higgins为谷歌构建的新系统可以理解它没有遇到一个全新的物体，而只是从一个新的角度看到的同样物体。　　　　然后，它可以使用空闲的计算能力来接收新的信息。AI系统更新了它对世界的了解，而无需重新训练和重新学习一切。基本上，系统能够将其现有的知识转移并应用到新环境中。最终的结果是一种频谱或连续体（continuum），显示了

8、它如何理解物体的各种特性。　　当然，仅有这一模型是无法把我们带到AGI的。但它标志着向AGI迈出了重要的第一步，表明AI算法可以在不断更新的同时，在不