微软限制出售人脸识别AI软件，人工智能隐私需保护.doc

《微软限制出售人脸识别AI软件，人工智能隐私需保护.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、微软限制出售人脸识别AI软件，人工智能隐私需保护　　人工智能的伦理学问题一直是学界和政界关注的重点之一，对于所有人来说，人工智能带来的法律和道德问题都是一个全新的课题，而对这一课题的研究结果，不但将影响未来人工智能的研究，同样也对AI的商业化落地有着极高的参考意义。　　如何让科学远离罪恶？我们都在摸着石头过河。　　在一篇关于人脸识别的潜在用途和滥用的博客文章中，微软总裁BradfordL．Smith将该技术与受到全面监管的药品和汽车等产品进行了比较，并敦促美国国会展开研究并监督人脸识别技术的使用。　　此前，众多学者与开发者们签署

2、了一份公开信，其中要求科技公司停止向政府和执法机构提供人脸识别技术，停止当前的数据分析和AI服务合同，并考虑制定道德准则，禁止威胁隐私、公民和人权的技术的武器化与军事化，建立透明和有问责机制的制度，以确保上述准则的实行。　　　　近期微软因一份涉及人脸识别软件的政府合同而受到广泛抨击，微软公司表示，它将更加谨慎地考虑这方面的合同，并敦促立法者规范此类人工智能技术的使用，以防止滥用。　　作为人脸识别软件主要制造商之一，微软表示它将采取措施降低这些系统产生偏差的可能性；制定新的公共原则来管理技术；并会更谨慎地出售其在该领域的软件和专业

3、知识。微软指出，虽然技术行业需要对其产品负责，但是政府也要采取行动。　　微软总裁兼首席法务官BradSmith周五在其博客中写道：“政府管理技术使用的唯一有效方法是它主动采取行动。而且如果人们担心一项技术在全社会被广泛使用，那么规范该项技术广泛应用的唯一措施应由政府出面。实际上，我们认为这就是现在所需要的—一项首先由民主、共和两党代表和专家委员会通报的政府倡议，旨在规范人脸识别技术的正确使用。”　　微软、谷歌、亚马逊等公司因向美国政府和当地警方出售AI软件，尤其是人脸识别软件而受到民间自由团体及这些公司内部雇员的抨击。对于科技公

4、司来说，这种要求对自己产品进行更严厉监管的行为并不常见，但是Smith与微软人工智能及微软研究事业部负责人沈向洋今年早些时候就写了一篇文章，称AI的发展需要新的法律来规范。　　Smith写道，“虽然我们明白现在很多人要求科技公司来做这些，我们也明确意识到自己需要履责，但我们认为，这不足以代替公众及其代表的决策。”　　人脸识别系统通常具备严重的缺陷，尤其是难以识别和区分肤色较深的人。微软研究者TImnitGebru和MIT媒体实验室JoyBuolamwini二月发表的一篇论文表明人脸识别系统对肤色较深的女性的分类误差高达35％。微

5、软的研究机构致力于修正研究者在其人脸识别软件中发现的问题。　　随着技术的迅速发展，微软提倡适应云计算和人工智能等新兴领域的新法律。微软就隐私问题与美国政府展开抗争，称美国政府在云计算方面使用了老旧的通信法，微软支持折中的法案，用于直接解决云时代的数据隐私问题和搜索问题。　　微软应对民众抗议的方式与亚马逊略有不同。在六月回应抗议声的一篇博客中，亚马逊的AI负责人MattWood写道，“新技术能力一直都存在风险，以后也会如此。每个选择使用技术的组织必须采取负责任的行动，否则就得面临法律惩罚和公众谴责的风险。AWS会认真对待自己的责任

6、。但我们认为，不能因为某些技术未来可能被人滥用就禁止这些技术的发展，这样是不对的。”　　Smith写道，政府规范应该考虑的问题是警察使用人脸识别软件是否需要人类监督和控制，零售商是否必须张贴显眼的标识（如果他们在公共区域使用了此类软件）。其它需要考虑的范围包括是否要求企业在收集个人图像之前先征求用户同意，以及认为自己被人脸识别系统错误识别的人享有哪些法律权利。　　纽约大学法学教授BarryFriedman称，执法机关使用人脸识别技术却欠缺规范，这引起了人们对种族差异和隐私问题的担忧。他同时也负责ThePolicingProjec

7、t，该计划致力于为执法设定规范和准则。　　最高法院规定警察在没有许可证或正当理由的情况下不得长期获取手机数据，类似的限制也应该应用到警察对人脸识别技术的使用上，BarryFriedman称。　　“该技术正在飞快地追赶我们，”Friedman说道，“如果我们不走到前头，一切将覆水难收。”　　微软在上个月曾因民众抗议AI技术被用于在墨西哥边境分离非法入境者及其子女后，短暂地在网站上删除了其与美国移民和海关执法局签订合同的文章。但随后，相关博客又被恢复。　　虽然微软随后宣称公司与移民局签订的合同主要涉及在云端处理旧电子邮件和员工协作系

8、统，但其博文明确提到了使用人脸识别工具的可能性。随后，数百名微软员工签署了一份请愿书，要求公司停止向政府出售相关服务。针对非法移民的AI项目甚至影响到了微软刚刚收购的GitHub，6月中旬起，数百名开源社区贡献者在网上签署了一份公开信，同样要求微软解除与政府部门