人工智能飞速发展将对人类产生的影响分析.doc

《人工智能飞速发展将对人类产生的影响分析.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、人工智能飞速发展将对人类产生的影响分析　　智能机器不是代替人，而是要协助人做好工作。　　索菲亚不是人，她只是个很聪明的机器人，不久前，她被沙特授予公民身份，加入人类籍。索菲亚很友好，与人谈笑自如，甚至还会眼神交流，并在MV里与歌星王力宏“结了婚”；索菲亚又很“恐怖”，声称未来目标是想去上学，成立家庭，并——毁灭人类。　　无论这句话是调侃还是隐喻，设计出她的人类，尴尬了。　　人工智能飞速发展将对人类产生的影响分析　　智能机器不是代替人，而是要协助人做好工作。　　索菲亚不是人，她只是个很聪明的机器人，不久前，她被沙特授予公民身份，加

2、入人类籍。索菲亚很友好，与人谈笑自如，甚至还会眼神交流，并在MV里与歌星王力宏“结了婚”；索菲亚又很“恐怖”，声称未来目标是想去上学，成立家庭，并——毁灭人类。　　无论这句话是调侃还是隐喻，设计出她的人类，尴尬了。　　　　索菲亚与设计师　　在近日召开的“人工智能的技术、伦理与法律的关键科学问题”的香山科学会议上，中科院科技战略咨询研究院研究员李真真举索菲亚的例子，是想提出一个问题：在技术高歌猛进的同时，人工智能不断模糊着物理世界和个人的界限，不断刷新人的认知和社会关系，延伸出复杂的伦理、法律和安全问题，但相应的规范和制度设计还存

3、在盲区，这是一个极大的挑战。　　“我国的人工智能技术可谓与世界发达国家‘同步’，但伦理和法律研究则严重滞后，这种‘缺位’会制约我们未来的发展。”李真真说。　　为构建一个人工智能健康发展的伦理和法律环境，来自自然科学、人文社会科学领域的专家学者和产业界人士聚集在一起，尝试跨越学科的鸿沟，寻找共同的交集，研讨人工智能最基本的问题。　　人工智能很厉害吗？厉害，但也有可能犯大错　　人工智能火了！人工智能牛了！很大程度归功于近年来一只不断进化的“狗”——阿尔法狗（AlphaGo）。　　中科院院士张钹简单分析了人工智能发展的两条

4、路径：一是符号主义，即从信息处理的宏观层面去模拟智能；二是连接主义，即从网络介观层面去模拟人类行为。当人工智能的开拓者提出上述方向时，不少人认为不可能，但事实证明这两条路都行得通。　　“人工智能第一次震撼，是IBM的‘深蓝’程序打赢国际象棋冠军，这是用计算机模拟人类下象棋的理性思考过程，证明了符号主义这一条路走得通。”张钹说。　　人工智能第二次对人类的“暴击”，是基于神经网络的深度学习，AlphaGo抛弃了传统围棋程序的编程方法，创造性地利用机器学习，来获取下棋的经验与直觉，结果战胜世界围棋冠军。“更值得注意的是AlphaGoZ

5、ero从零开始，通过36小时自我学习，超越人类3000年的围棋经验，以100比0击败了上一版本的AlphaGo。这证明第二条路也走得通。”张钹说。　　“这让人欢欣鼓舞，也令人担忧。”张钹的“忧”，指的是基于深度学习的人工智能系统存在的根本性缺陷——不可解释和不可理解，就事论事，缺乏推广能力，遇到新的情况一筹莫展等。因此当面对动态变化的环境，信息不完全、存在干扰与虚假信息时，人工智能系统性能就会显著下降。　　“当前的人工智能与人类智能本质上是不同的。”张钹说，与人类相比，人工智能系统抗干扰能力（鲁棒性）差，推广能力弱，甚至可能犯大

6、错。“基于深度学习的模式识别系统尽管可以准确地区分不同事物，但本质上不认识它们。与人类不一样，它不会举一反三，更不会‘知其所以然’。使用这样的人工智能系统需要十分小心。”　　“现在大家对人工智能有无限期待。围棋有规则，现实生活中没有规则。人工智能产品完成单项任务很牛，但遇到复杂情况，实际没那么厉害。”海尔公司CTO赵峰认为。　　　　人工智能可怕吗？远虑尚“远”，近忧在即　　人工智能会威胁人类吗？马斯克、霍金、扎克伯格……科技和产业界的大腕对此的争论和互怼一直没有停歇。　　参加香山科学会议的科学家认为，人工智能威胁论拥趸者所指的“

7、强人工智能”到来还比较远，现在发展的多是擅长完成单项任务的“弱人工智能”。“人工智能还在生长发展过程中，是否造成威胁估计是下一代科学家面临的问题，我们现在的任务是把它‘养大’。”不过，中科院院士何积丰也坦承，现在人工智能也有“内忧外患”，如无人机黑飞乱飞管理乱象，恐怖主义黑客攻击等。　　“世界上没有免费的午餐，机器通过‘黑箱’学习（深度学习）方法取得的智能，由于与人类认知行为存在根本差异，因此也将带来潜在的风险。”张钹说，人工智能全面超越人类智能并出现自我意识，是危险的，不过这是远虑；但其不可解释性会带来“近忧”，如将深度学习应

8、用于军事决策，万一系统出现原则性决策失误怎么办？　　人类准备好了吗？远远没有，急需跟进　　“人类现有的概念框架及知识储备难以应对人工智能带来的影响，也使我们不得不面对‘制度性风险’。”李真真说，人工智能技术的社会应用迅速改变了人类的生存环境，重塑人的行为，也不断