可信AI操作指引（V0.5版）.docx

《可信AI操作指引（V0.5版）.docx》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、可信AI操作指引（V0.5版）1前言人工智能（AI）技术和应用的发展正在呈现加速趋势，在大力推动经济社会创新发展的同时，人工智能暴露出难以解释、偏见歧视等普遍性风险，人工智能信任问题也日益受到重视。为进一步细化《人工智能行业自律公约》文件要求，构建健康的人工智能产业发展环境，中国人工智能产业发展联盟特组织开展《可信AI操作指引》的编写工作。2适用范围本文件规定了可信AI的概念，详细阐述了AI系统的可信要求，旨在为人工智能产业健康发展提供参考。本文件在现阶段适用于AI系统提供方，主要是指研究、设计、制造、运营和服务人工智能系统的企业、高校、科研院所、行业组织、个人以及其他实体

2、。并且，在适用于AI系统提供方的同时，也要综合考虑AI系统部署情况以及运行环境等。另外，本文件只适用于较成熟的商用AI系统，不适用于非商业化，及处于研究或实验阶段中的AI系统。3概念本文件中所指的“可信AI”，即人工智能在技术、产品、应用、运营、管理等方面，应能遵循以人为本、公平公正、增进民生福祉、防止危害社会、避免侵犯公众利益和个人合法权益的总原则，并能够重点满足《人工智能行业自律公约》中可靠可控、透明可释、保护隐私、明确责任、多元包容等基本要求。当前，本文件中所指的“可信AI”聚焦于人工智能系统，即“可信的人工智能系统”。1使用说明本文件在第5节《可信要求》中，对所有A

3、I系统提出了通用的基本要求和实践指引。建议AI系统提供方可根据不同的应用场景和技术领域，参考第5节《可信要求》中的内容做出具有针对性的实践操作。2可信要求可信AI应满足可靠可控、透明可释、保护隐私、明确责任、多元包容等五项基本要求。依据现阶段人工智能技术发展水平和产业界的实际情况，本文件规定了三个级别的要求等级，代表了不同的重要性、通用性和可操作性，由强到弱分别为一级要求、二级要求和三级要求，分别对应文中“应”、“宜”、“可”的文字描述，其中一级要求共30条，二级要求共25条，三级要求共5条，具体如表1所示。表1可信要求等级对照表基本要求具体要求要求内容要求等级（一级：★，

4、二级：★★，三级：★★★）5.1可靠可控5.1.1系统安全性5.1.11）★★5.1.12）★★5.1.13）★★5.1.14）★★★5.1.15）★5.1.16）★★5.1.17）★★5.1.2系统成熟度5.1.21）★5.1.22）★★5.1.23）★★5.1.3系统稳健性5.1.31）★★5.1.32）★5.1.33）★★5.1.4人类对系统的监督和接管能力5.1.41）★5.1.42）★5.2透明可释5.2.1系统决策过程描述5.2.11）★5.2.12）★★5.2.13）★5.2.14）★5.2.15）★5.2.2系统技术意图描述5.2.21）★5.2.22）★5

5、.2.3系统可复现性描述5.2.41）★★5.2.42）★★★5.2.4外部监督和审查渠道5.2.51）★5.2.52）★★★5.3保护隐私5.3.1数据收集使用合法合规5.3.11）★5.3.12）★5.3.13）★5.3.14）★5.3.15）★5.3.2数据主体隐私保护5.3.21）★5.3.22）★5.3.23）★5.3.24）★5.3.25）★5.3.3未成年人隐私保护5.3.31）★5.3.32）★5.3.4确保数据安全5.3.41）★★5.3.42）★★5.3.43）★★5.3.5防范数据泄露5.3.51）★★5.3.52）★★5.3.53）★★5.3.54）

6、★5.3.55）★★★5.4明确责任5.4.1明确权利义务5.4.11）★★5.4.12）★★★5.4.2确定责任主体5.4.21）★★5.4.22）★5.4.23）★★5.4.3探索AI创新保险机制5.4.31）★★5.4.32）★★5.4.33）★★5.5多元包容5.5.1产品需求多样化5.5.11）★5.5.22）★★5.5.2训练数据全面化5.5.21）★5.5.22）★5.5.3算法公平性测试验证5.5.31）★★5.5.32）★具体可信要求内容如下：5.1可靠可控确保人工智能系统在其整个生命周期内安全、可靠、可控地运行。评估系统自身安全和潜在风险，不断提高系统的

7、成熟度、稳健性和抗干扰能力。确保系统可被人类监督和及时接管，避免系统失控的负面影响。5.1.1系统安全性1）对于AI系统输入环节，影响系统安全性的因素有：常规信道攻击(重放攻击)、传输信道攻击和侧信道攻击等传感器欺骗手段。针对以上问题，AI系统提供方宜采取传感器增强(忽略相应的攻击频段)、输入滤波等措施来检测恶意破坏系统构造的攻击信息,实现对系统输入环节的安全增强。2）对于AI系统数据预处理环节，影响系统安全性的因素有：插值算法逆向、轮询推测还原等重采样攻击手段。针对以上问题，AI系统提供方宜采取对输入预处理引入随