AI滥用风险已迫在眉睫 研究人员呼吁各国做好防范.doc

《AI滥用风险已迫在眉睫 研究人员呼吁各国做好防范.doc》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、AI滥用风险已迫在眉睫研究人员呼吁各国做好防范　　研究人员和专家们称，人工智能技术有可能被流氓国家、犯罪团伙或独来独往的犯罪分子们滥用，这已经从数字、物理和政治层面上对人类社会构成了迫在眉睫的威胁，因为人工智能技术让大规模、高精准和高效率的攻击成为了可能。　　　　牛津大学人类未来学院的研究员迈尔斯-布伦达奇(MilesAI滥用风险已迫在眉睫研究人员呼吁各国做好防范　　研究人员和专家们称，人工智能技术有可能被流氓国家、犯罪团伙或独来独往的犯罪分子们滥用，这已经从数字、物理和政治层面上对人类社会构成了迫在眉睫的威胁，因为人工智能技术让大规模、高精准和高效率的攻

2、击成为了可能。　　　　牛津大学人类未来学院的研究员迈尔斯-布伦达奇(MilesBrundage)称：“我们都承认，人工智能有很多积极的应用，但在恶意使用问题的研究上存在一片空白。”　　人工智能即AI包括利用计算机执行一些通常需要人类智能才能完成的任务，比如决策或识别文本、语音或视觉图像等等。　　人们普遍认为人工智能是开启各种技术可能性的强大力量，但它也成为了尖锐辩论的焦点，人们担心它所支持的大规模自动化会导致广泛失业和其他社会混乱。　　研究人员和专家们在这份长达98页的报告中警告说，用人工智能来完成可能需要人工劳动和专业技能才能完成的任务，这可能会降低攻击

3、的成本和催生新的攻击方式。这些新的攻击方式可能是人力无法单独完成或者需要用到人工智能系统自身弱点才能实现的。　　报告审查了越来越多关于人工智能安全风险的学术研究成果，呼吁各国政府和政策与技术专家合作并化解这些危险。　　研究人员们详细说明了人工智能技术的强大力量，人工智能技术可以将图像、文字和音频合成在一起以模仿他人在线行为，进而改变公众的观点。研究人员们指出，专制政权可能会利用这种技术。　　这份报告提出了一系列建议，包括将人工智能作为一种军民两用的技术来管理。　　它还提出了一些问题，包括学术界和其他人是否应该控制他们发布或披露人工智能研发进展，直到该领域的

4、其他专家有机会对潜在危险进行研究并作出反应。　　布伦达奇说：“我们最终得出的问题比解决的问题多得多。”　　这篇论文最早源于2017年初的一个研讨会，当作者们正式开始撰写时，报告中提出的某些预测基本上已经实现了。作者们推测，人工智能可能会被用来制作各种逼真的假声音和假视频，模仿各行各业的名人，以达到宣传的目的。　　去年晚些时候，所谓的“深度假”色情视频开始在网上出现，这类视频实际上是将明星们的面孔融合到不同的身体上。　　特斯拉首席执行官埃隆-马斯克(ElonMusk)和硅谷投资者山姆-奥尔特曼(SamAltman)创立的人工智能公司OpenAI的政策主管杰克

5、-克拉克(JackClark)表示：“这发生的色情行业，并不是处于宣传目的。但是一切都表明，关于深度假的东西也有可能被用于宣传。”