人工智能和人类未来

《人工智能和人类未来》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、人工智能和人类未来超出原本预期不断增长的计算能力和具有学习能力的算法，很可能会引发邪恶的超级智能科技。如果我们这个时代最富有、最聪明和最具商业头脑的三个人都认同某个想法，那这个想法一定值得其他人认真考虑。这里要提到的三个人分别是：世界首富、微软联合创始人比尔·盖茨;线上支付、电动车、宇宙飞行，以及地面交通领域的核心创新者埃隆·马斯克;还有宇宙学家史蒂芬·霍金。他们都认同这个想法：人工智能(AI)存在威胁人类文明的潜在可能。这些只是聪明人的疯狂猜想吗，还是确实需要我们认真去了解的真知灼见?在经历了半个世纪的缓慢推进后，2016年正在成为“人工智能”年。2

2、016年，刚刚被谷歌纳入旗下的DeepMind团队用阿尔法围棋软件打败了人类最优秀的围棋选手李世石，在全世界的关注下以4：1的成绩获得了胜利。AI的应用领域当然不仅限于围棋，它还能应用到众多其他领域，比如：医疗健康、教育、科学、娱乐等等。AI不仅能够掌握这些领域的知识，还有可能最终超越人类在该领域最棒的从业者。摩尔定律效应(英特尔Intel创始人之一戈登·摩尔提出来的概念，内容为：当价格不变时，集成电路上可容纳元器件的数目，约每隔18-24个月便会增加1倍，性能也将提升1倍。换言之，每1美元所能买到的电脑性能，将每隔18-24个月翻1倍以上)告诉我们，

3、性价比的提升会让最棒的应用和性能变得日益平民化。比如，健康医疗领域的AI可以在几秒钟内精确诊断出大多数家庭医生没见过的罕见病例，而AI做出判断的依据是对上百万医疗记录的访问，将病人的基因和表外基因(是指DNA序列不发生变化，但基因表达却发生了可遗传的改变)与数百万病患进行对比。让上一个免费的应用成为世界上最棒的医生只是时间问题。但AI也有其阴暗的一面，这在畅销小说中体现得淋漓尽致。在《2001：太空漫游》中，“发现一号”宇宙飞船上的AI因为犯错、说谎，最终被英雄大卫·鲍曼关闭。但在《终结者》系列中，“天X”似乎比人类更高明，在新片《机械姬》中，机器人爱

4、娃也比她的人类创造者更加聪明。这些电影真的只是科幻小说吗，或者它们已经预示了下一个变革——超越人类的机器?如果机器是下一个变革，它们是否会像它们的先驱一样，也就是我们人类，把无数的物种踩在脚下当做进化的阶梯?或者换个说法，电脑系统会做坏事吗?如果它们做坏事，又会带来怎样的后果呢?恶意行为我们首先要明确的一点是，计算机系统可以通过无数种机制进行恶意行为，既可以是恶意行为的，也可以是恶意行为的渠道。举例来说，可能会出现一个这样的机制：它所承载的程序皆由黑客、恐怖分子或者X络罪犯所控制，而这些X络罪犯正在充斥着不严谨系统的全球计算机结构中寻找漏洞。不仅如此，

5、这些系统还有可能被故意设计用于战争。如今先进的军队都在制造无人机、战斗飞机、舰船、坦克还有战斗机器人。拯救士兵性命这件事，已经和计算机与武器的结合密切相关;还有另外一种机制，善意的软件中隐藏着漏洞。这些漏洞有可能是被恶意行为人故意放进去的，也有可能是善意行为人不小心放进去的。比如最严重的漏洞之一“Heartbleed”，就是开源贡献者罗宾·西格曼为了修复其它漏洞无意间造成的，结果导致软件出现了意料之外的功能。负责检测软件更新的斯蒂芬·汉森因为没有发现更新中存在的错误漏洞，结果导致上亿X站暴露于危险之中。还有一种机制是计算机系统会按照预先编程好的逻辑运行

6、，但许多问题本身就没有那么容易解决。比如自动驾驶车的控制系统所提出的“道德”难题：迎面行驶而来的车，由于路面湿滑，在山路上滑到了另一边的车道，因为没有足够的时间停车，所以，控制程序必须在撞向对面的车和开下悬崖之间做出选择。但这两个选择都不是好的解决办法。当然，这种困境在计算机之外的现实世界同样存在。比如，纽约最近规定禁止售卖大容量的含糖软饮料。一些人认为这样可以遏制肥胖;另一些人却认为这样限制了人们的自由。高级智能的AI作出的决策可能是为了实现我们的利益最大化，但人们会将其视为恶意行为，因为它们限制了我们的自由。最后，复杂的系统可能会出现程序员计划之外

7、和预料之外的表现。每个组成部分在看似合理的预设行为相互作用后，就有可能会产生意想不到的结果。比如，进化生物学家皮特·劳伦斯写的《苍蝇诞生记》，原本价格只有35美元左右，结果在两家出版商“非常合理”的定价算法的推动下，价格翻了上百万倍，超过2300万美元。出版商Profnath的定价算法是，把自己的价格定到竞争对手Bordeebook价格的0.9983倍，可以猜想Profnath的策略是缩小利润打败竞争对手;而其竞争对手Bordeebook更愿意用销量来交换利润，所以，将价格定为Profnath的1.27倍。结果这两种各自合理的定价算法交互作用，最终导致

8、书价不停上涨到完全不合理的高度。最终极的一种可能当然是，人类创造出了有足够复杂意识和自我意识的