李飞飞极力反对AI用于武器 谷歌与五角大楼合作细节曝光.doc

《李飞飞极力反对AI用于武器 谷歌与五角大楼合作细节曝光.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、李飞飞极力反对AI用于武器谷歌与五角大楼合作细节曝光　　谷歌备受关注的国防部Maven合作项目或许要告一段落。　　纽约时报30日报道，谷歌正在制定一套准则，以指导其参与开发用于军事的AI工具。这些指导准则究竟会有哪些规定尚不清楚，但谷歌表示，他们将禁止在武器中使用人工智能。　　　　报道中还披露了谷歌与五角大楼Maven项目合作一些细节：　　交易金额非常少，只有900万美元；　　谷歌内部对与军方的合作争论非常激烈，所以才引起了十几人辞职抗议；　　李飞飞曾极力反对，但最终决定是由她的老板、谷歌云首席执行官DianeGreene做出的。　　一场本可以避免

2、的危机事件　　去年8月，美国国防部长JimMattis到硅谷访问谷歌高层。　　次月，谷歌有史以来第一份与五角大楼的AI合同出现，几名谷歌高管讨论这份合同的可行性，其中包括李飞飞。　　李飞飞强烈建议回避“AI”这两个字母。后来她在给《纽约时报》的一封电子邮件中写道，谷歌应该“不惜一切代价避免提及或暗示任何人工智能。武器化人工智能可能是人工智能最敏感的话题之一”。如果谷歌与军方合作，对媒体来说是“redmeat”。　　“我不知道如果媒体开始错误报道谷歌正在秘密制造人工智能武器或人工智能技术来为国防工业提供武器，会产生什么后果。”李飞飞说，“我相信以人为

3、中心的AI能以积极、善意的方式造福人类。任何AI武器化的项目，都是违背我的原则的。”　　后来发生的4000人联名上书、十几人集体辞职抗议的事实证明，李飞飞的预见是对的，但她的反对没有起到作用。最终，李飞飞的上司、谷歌云首席执行官DianeGreene决定跟军方合作。　　更严重的是，谷歌也没有将与Maven项目合作的事情对外公布，直到有部分员工开始在谷歌强大的内部沟通平台上反对时，事情才慢慢被更多人知晓，随后便引发出了后续一连串的事件。　　被媒体和谷歌员工关注的Maven项目，是使用机器学习来识别无人机镜头中的车辆和其他物体，从而减轻分析人员的负担。

4、谷歌向国防部提供用于机器学习应用的TensorFlowAPI，以帮助军事分析人员检测图像中的物体。　　　　另据Wired报道，Maven项目正在拓展，包括更广泛地部署无人机监视算法。Maven项目负责人JackShanahan表示，他的团队现在正在“完善”无人机飞行的算法，并将很快在高空侦察机上工作。　　此外，Shanahan还说，Maven项目未来会将人工智能应用于新的军事领域。其中包括是利用机器学习算法来帮助分析人员在获取的硬盘上查找最重要的资料。　　交易金额“仅”900万美元，谷歌内部大讨论　　当与国防部合作的消息在内部泄露到时，DianeG

5、reene在每周的全公司TGIF（ThanksGod,it’sFriday）会议上发言。据两名知情人士透露，她解释说该项目不是为了致命目的，而且这笔交易价值“仅”900万美元，是一笔相对较小的交易。　　不过，DianeGreene的解释并没有遏制员工们愤怒。　　另据Gizmodo报道，除了Maven项目外，五角大楼另一项价值上百亿美元的云计算JEDI项目（theJointEnterpriseDefenseInfrastructure，联合企业国防基建项目）正在竞标，IBM和微软证实了他们对JEDI合同有兴趣，谷歌员工担心谷歌会参与项目招标，因此对谷

6、歌与军方的任何合作都保持警惕。　　谷歌在4月11日举行了一场讨论，参加的有DianeGreene、谷歌AI研究员MeredithWhittaker（反Maven运动的领导者）、以及谷歌副总裁VintCerf等。由于关注度非常高，讨论在一天内进行了三次，以供谷歌在全球不同地区的员工观看。　　据观看讨论的员工透露，Greene坚定地认为，Maven项目没有将AI用于攻击目的，而MeredithWhittaker认为很难界定如何使用该技术。　　上周四，谷歌联合创始人SergeyBrin在全公司会议上回答了关于Maven工作的一个问题。　　据两名谷歌员工称

7、，SergeyBrin表示他理解这一争议，并与LarryPage和SundarPichai进行了广泛的讨论。不过，他表示，如果世界各国的军队都与谷歌这样的国际组织合作，而不是仅仅与民族主义的国防承包商合作，这将有利于和平。　　谷歌拟制定原则：禁止把人工智能应用到武器中　　谷歌CEOPichai也在上周四的全公司会议上表示，谷歌希望制定出“能够经受住时间考验”的指导原则，这些原则将指导其在国防和情报外包领域的合作。一些员工们透露，谷歌预计在未来几周内将在内部宣布这些原则。　　纽约时报称，谷歌新制定的原则禁止人工智能应用到武器中，但目前还不清楚这种禁令

8、将如何在实践中应用。　　谷歌及其母公司Alphabet公司雇佣了许多世界顶级的人工智能研究人员。这些研究人员中的许多人最近