机器道德伦理在人与人工智能交互中的应用研究

《机器道德伦理在人与人工智能交互中的应用研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、机器道德伦理在人与人工智能交互中的应用研究(申请清华大学工学硕士学位论文)培养单位：工业工程系学科：管理科学与工程研究生：孙浩然指导教师：饶培伦教授二○一七年五月AStudyofMachineEthicsinHuman-ArtificialIntelligenceInteractionsThesisSubmittedtoTsinghuaUniversityinpartialfulfillmentoftherequirementforthedegreeofMasterofScienceinManagementScie

2、nceandEngineeringbyHaoranSunThesisSupervisor:ProfessorPei-LuenPatrickRauMay,2017摘要摘要本研究旨在以人工智能道德建设的角度评估人们对人机交互的态度与偏好,探讨如何在不同伦理困境情境中设计自动化和决策方法，并确定在意外发生时人们的责任追求倾向。笔者首先对30名受访者进行初步访谈，以收集大众对未来人类与人工智能交互场景的见解与担忧。访谈结果表明智能家居、自动驾驶、专业服务及军事战斗为人们心中未来人工智能技术应用最广泛的领域。笔者随后根据初步

3、访谈所得到的这四大类领域以及受访者对其所提出的担忧设计出了之后问卷调查所需的情境，并通过对103名参与者进行基于8个不同情境的问卷调查，以收集定量数据。笔者在制定问卷过程中还充分考虑对人类决策过程有影响的三个要素：事件的严重性、主体决策的时间限制和主体与事件的相关性，而正是这三个因素构建了这8种不同水平组合的伦理困境。另外通过针对30名参与者进行深度访谈来收集用于支持问卷结果的相关定性数据。问卷调查数据的重复测量方差分析结果显示，这三个因素显著影响着受众对自动化水平，决策方式和责任分配的选择。首先，在与参与者相关，

4、且决策可用时间较短的情况下，参与者对监控自动化满意度最高，而在决策可用时间较长的情况下，参与者对授权自动化最为满意。在与参与者无关，无论严重程度的高低，参与者都偏好监控自动化与授权自动化胜过全自动化与手动控制。再者，关于对决策方法的偏好，公平/正义的方法在事件不严重和与本人无关的情景下最可被接受，情绪/功利主义方法在高度严重性和与本人相关的情况下则更被偏好。最后，数据显示，参与者认为若发生意外事件，人工智能产品的用户/所有者应承担最高责任。深度访谈结果表明，大多数参与者具有相似观点，即人工智能产品无法具有与人类相同

5、的生命价值，因此人工智能不应获取那些可能会影响甚至危害人类生命的权利。本研究结果表明，人类应该根据不同情境下的不同影响因素来对人工智能系统进行自适应的自动化与道德标准设计。关键词：人工智能；机器道德；人机交互IABSTRACTABSTRACTThisstudyevaluatespeople’sattitudeandpreferencestowardhuman-machineinteractionfromamachineethicsperspective.Theobjectivesofthisresearcharet

6、oexplorehowautomationanddecision-makingapproachesshouldbedesignedonAIwhenitfacesethicaldilemmasunderdifferentscenarios,andtoidentifywhichstakeholderpeopletendtoblamewhenunexpectedfailurehappens.Threefactorsthatwereconsideredwhenbuildingthescenario-basedsurvey:

7、severity,timelimitationfordecision-makingprocess,andrelativityoftheimpactondecisionmaker.Aninterviewwasfirstconductedwith30participantstogatherideasandconcernsaboutfutureAItechnologyintheirimaginationsinordertodesignascenario-basedsurveythatreflectsthepublics’

8、interestandconcernsforfutureAImachines.TheresultsoftheinterviewrevealedfourmostpopularcategoriesoffutureAItechnology:Smarthomes,autonomousvehicles,AIprofessionals,andmilitarycombat