公平公正的AI也学会了人类的偏见.doc

《公平公正的AI也学会了人类的偏见.doc》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、公平公正的AI也学会了人类的偏见算法根据数据中发现的模式来进行分类或者做出预测。但这些算法的聪明程度只能跟训练它的数据相比。这也就意味着我们的限制——我们的偏见，我们的盲点，我们的疏忽也会变成那些算法的。DanielleGroen详细解释了算法是如何产生偏见的，并且介绍了一些可能的解决方案。算法的歧视2010年秋天的一个早晨，SafiyaUmojaNoble正坐在伊利诺斯州家中的餐桌上往Google里面输入了几个词。她正准备给自己14岁的继女以及5位侄女准备一次sleepover（在朋友家过夜的晚会）。既不想

2、让孩子们碰手机，又担心女孩们会直奔她的笔记本，Noble决定自己先查查看她们会发现些什么。她说：“我原先想搜搜‘公平公正的AI也学会了人类的偏见算法根据数据中发现的模式来进行分类或者做出预测。但这些算法的聪明程度只能跟训练它的数据相比。这也就意味着我们的限制——我们的偏见，我们的盲点，我们的疏忽也会变成那些算法的。DanielleGroen详细解释了算法是如何产生偏见的，并且介绍了一些可能的解决方案。算法的歧视2010年秋天的一个早晨，SafiyaUmojaNoble正坐在伊利诺斯州家中的餐桌上往Google

3、里面输入了几个词。她正准备给自己14岁的继女以及5位侄女准备一次sleepover（在朋友家过夜的晚会）。既不想让孩子们碰手机，又担心女孩们会直奔她的笔记本，Noble决定自己先查查看她们会发现些什么。她说：“我原先想搜搜‘公平公正的AI也学会了人类的偏见算法根据数据中发现的模式来进行分类或者做出预测。但这些算法的聪明程度只能跟训练它的数据相比。这也就意味着我们的限制——我们的偏见，我们的盲点，我们的疏忽也会变成那些算法的。DanielleGroen详细解释了算法是如何产生偏见的，并且介绍了一些可能的解决方案

4、。算法的歧视2010年秋天的一个早晨，SafiyaUmojaNoble正坐在伊利诺斯州家中的餐桌上往Google里面输入了几个词。她正准备给自己14岁的继女以及5位侄女准备一次sleepover（在朋友家过夜的晚会）。既不想让孩子们碰手机，又担心女孩们会直奔她的笔记本，Noble决定自己先查查看她们会发现些什么。她说：“我原先想搜搜‘公平公正的AI也学会了人类的偏见算法根据数据中发现的模式来进行分类或者做出预测。但这些算法的聪明程度只能跟训练它的数据相比。这也就意味着我们的限制——我们的偏见，我们的盲点，我们

5、的疏忽也会变成那些算法的。DanielleGroen详细解释了算法是如何产生偏见的，并且介绍了一些可能的解决方案。算法的歧视2010年秋天的一个早晨，SafiyaUmojaNoble正坐在伊利诺斯州家中的餐桌上往Google里面输入了几个词。她正准备给自己14岁的继女以及5位侄女准备一次sleepover（在朋友家过夜的晚会）。既不想让孩子们碰手机，又担心女孩们会直奔她的笔记本，Noble决定自己先查查看她们会发现些什么。她说：“我原先想搜搜‘公平公正的AI也学会了人类的偏见算法根据数据中发现的模式来进行分类

6、或者做出预测。但这些算法的聪明程度只能跟训练它的数据相比。这也就意味着我们的限制——我们的偏见，我们的盲点，我们的疏忽也会变成那些算法的。DanielleGroen详细解释了算法是如何产生偏见的，并且介绍了一些可能的解决方案。算法的歧视2010年秋天的一个早晨，SafiyaUmojaNoble正坐在伊利诺斯州家中的餐桌上往Google里面输入了几个词。她正准备给自己14岁的继女以及5位侄女准备一次sleepover（在朋友家过夜的晚会）。既不想让孩子们碰手机，又担心女孩们会直奔她的笔记本，Noble决定自己先

7、查查看她们会发现些什么。她说：“我原先想搜搜‘黑人女孩’，因为这是我喜欢一群黑人小女孩。”但这次无伤大雅的搜索出来的东西令人警醒：结果网页整整一页都是明显色情的网页。当时任何人搜索黑人女孩都会得到一样的东西。Noble说：“几乎所有有色人种女孩的搜索结果都是超级色情的内容，哪怕退一步说这也非常的令人失望。”现在是南加州大学传播学教授的Noble说：“我只好把计算机也收起来，希望女孩子们不会提出要玩电脑的要求。”大概与此同时，在另一个地方，JoyBuolamwini也发现了另一个表示问题。这位父母来

8、自加纳、在加拿大出生的女计算机科学家意识到一些先进的热恋识别系统，比如微软使用的那些系统，在检测她的黑皮肤方面有很大的困难。有时候程序根本就不知道她的存在。当时是乔治亚理工学院一名学生的她正在做一个机器人项目，结果发现本该要跟人类用户玩躲猫猫的那个机器人没法把她给辨认出来。后来她只有靠室友的浅肤色的脸才完成了项目。2011年，在香港的一家初创企业那里，她又用另一个机器人去试试自己的运气——结果还是一