人工智能将会带来6大担忧.doc

《人工智能将会带来6大担忧.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、人工智能将会带来6大担忧　　人工智能正在逐渐进入业务流程。但是首席信息官们应该停下来研究一下人工智能工具的潜在商业影响——不管影响是好是坏。　　2017年，人工智能的炒作达到了顶峰，首席信息官、顾问和学者们纷纷宣称这项技术可能会将这一切自动化——从商业和IT运营到客户联络。然而，在2018年的第一个季度就有几家媒体报道了人工智能的危险，其中包括培训计算机执行那些往往需要人类智能的任务。　　讲授认知技术课程的巴布森学院的杰出教授ThomasDavenport说：“媒体上充斥这么多关于人工智能的炒作，而这只是记者试图通过谈论消极的一面来扩大

2、宣传。”　　也许是这样吧，但这些担忧并不是什么新鲜事儿，而且不会持续下去，从对种族、性别和其它偏见的恐惧，到失控的自动驾驶的无人机都有可能带来致命后果。　　　　在《MIT技术评论》发表了一篇题为《当人工智能终于致人死亡时，谁来负责？》的故事的一周后。此文提出了这样一个问题——如果有一辆自动驾驶的汽车把人撞死，有一辆自动驾驶的优步汽车在亚利桑那州撞死一名女子，什么样的法律适用于这个问题。如他所言，时机决定了一切。　　记者会在下文详细介绍一些有关人工智能采用的问题，然后是对希望测试该技术的首席信息官提出的一些建议。有关人工智能的六大担忧　　

3、1.太粗鲁了　　正如我们从微软的灾难性的聊天机器人Tay事件中了解到的，会话式消息传递系统可能是荒谬的，无礼的，甚至是唐突的。首席信息官们必须小心翼翼地对待他们所使用的东西，以及他们使用这些东西的方式。聊天机器人只消有一次唐突的，乱扣帽子的行为就能摧毁品牌的友好形象。　　2.认知不佳　　谷歌的人工智能科学家兼斯坦福大学李飞飞教授在《纽约时报》的一篇专栏文章中称，尽管人工智能是由人类开发的，但具有讽刺意味的是，人工智能根本不像人类。李飞飞指出，尽管人类的视觉感受高度情境化，但人工智能感知图像的能力有很大的局限性。　　李飞飞说，人工智能程序

4、员可能必须与各领域的专家合作——回归该领域的学术根源——缩小人与机器感知之间的差距。　　3.黑匣子难题　　有很多企业想使用人工智能，它包含一些可能提供战略优势的活动，但金融服务等行业的公司必须小心翼翼，他们可以解释人工智能是如何得出其结论的。房利美（FannieMae）的运营兼技术负责人BruceLee说，使用Nest温控器这样的产品来管理电费的房主可能会有更多的自由现金流（freecashflow）来偿还抵押贷款，这种推断也许是合乎情理的。但在监管机构的眼中，让人工智能具备这样的资质是有问题的。　　李飞飞告诉记者：“在你开始着手这种有

5、关公平借贷的问题时——如何偏倚样本集，你会否渐渐向使用Nest的人提供更好的抵押贷款利率？人工智能在信贷决策这样看似明显的领域的事情中，实际上充斥着要扫清的监管障碍，所以我们所做的很多事情都必须进行彻底的回溯测试，以确保我们不会带来不当的偏倚，并确保这对住房基础设施是一种净收益。人工智能必须要解释得通。”　　如果人们不清楚人工智能软件如何检测模式并观察结果，那么冒着法规风险的公司就会怀疑机器的可信度。FoxRothschild律师事务所的技术实践联合主席DanFarris说：“情境、道德和数据质量是影响人工智能的价值和可靠性的问题，特别

6、是在受到高度监管的行业中。在所有受到高度监管的行业部署人工智能都可能会造成合规性问题。”　　4.民族志，社会经济方面的偏差　　斯坦福大学的博士生TImnitGebru在进行一个项目——该项目使用谷歌街景（GoogleStreetView）的汽车图片来确定所有美国城镇的人口结构。她对研究中的种族、性别和社会经济偏差感到担忧。彭博社的报道称，这一启示促使Gebru加入微软，她在那里努力挖掘人工智能的偏差。　　即使是人工智能虚拟助理也受到偏差的困扰。你有没有想过为什么Alexa、Siri和小娜（Cortana）等虚拟助理技术都是女性角色？客户

7、服务软件公司LivePerson的首席执行官RobLoCascio向记者表示：“为什么我们将这些‘助理’技术定性为女性？就我们对世界和职场女性的期望，这意味着什么？女性本质上是‘助手’，她们‘爱唠叨’，她们扮演行政角色，她们善于接单？”　　5.用于攻击的人工智能，致命的攻击　　剑桥大学、牛津大学和耶鲁大学的25位技术和公共政策研究人员撰写的一份长达98页的报告称，人工智能的快速发展意味着这样的风险——恶意用户很快就会利用该技术发动自动的黑客攻击，模仿人类传播错误信息或将商业无人机变为有针对性的武器。　　牛津大学人类未来研究院（Oxfor

8、d’sFutureofHumanityInsTItute）的研究员MilesBrundage告诉路透社：“我们都赞同人工智能有很多积极的应用。有关恶意使用问题的文献中存在一个缺口”。《纽约时报》和Gizmo