人工智能治理白皮书.pdf

人工智能治理白皮书 中国信息通信研究院 中国人工智能产业发展联盟 2020年9月 版权声明 本白皮书版权属于中国信息通信研究院和中国人工智能产业发展联盟，并受法律保护。转载、摘编或利用其它方式使用本白皮书文字或者观点的，应注明“来源：中国信息通信研究院和中国人工智能产业发展联盟”。违反上述声明者，编者将追究其相关法律责任。 前 言 当前，全球科技革命和产业变革孕育兴起，以深度学习、跨界融合、人机协同、群智开放、自主操控为特征的新一代人工智能不断取得突破，已成为新一轮科技革命和产业变革的重要驱动力量。在极大提升人类生产生活品质的同时，新一代人工智能具有的通用目的性、算法黑箱性以及数据依赖性等技术特性，引发了社会、企业、个人等不同维度的风险和挑战，从而对治理提出了专业化、多元化、敏捷化、全球化的迫切需要。因此，人工智能治理这一概念应运而生，成为国际社会广泛关注和研究的方向。 人工智能治理是一项复杂的系统工程，既需要明确治理原则、目标以及厘清治理主体，又需要提出切实有效的治理措施。全球正在逐步构建起人工智能治理框架，以坚持科技造福人类，平衡创新发展与有效治理的关系作为治理目标，采用多元主体参与、协同共治的治理机制，通过制定伦理原则、设计技术标准、确立法律法规等综合治理手段，推动人工智能健康有序发展。 人工智能的治理体系需要“柔性的伦理”和“硬性的法律”的共同构建。一方面，以伦理为导向的社会规范体系，可以为人工智能技术层面的开发和应用提供价值判断标准，约束和指导各方对人工智能进行协同治理。众多国际组织、国家和企业选择从伦理角度入手，试图确立人工智能的基本伦理规范，探索清晰的道德边界，并积极构建人工智能伦理的落地机制和体系。另一方面，以法律为保障的风险防控体系，依靠国家强制力划定底线，可以防范和应对人工智能技术带来的诸多风险。整体来看，人工智能相关立法正从慌乱走向理性，从源头治理走向综合治理，从粗放治理走向精细治理。同时，在自动驾驶、深度伪造、智能金融、智能医疗等场景下，人工智能立法取得率先突破，积累了一定的监管经验。 本白皮书从人工智能第三次浪潮开辟的治理新需要出发，结合当前人工智能发展阶段，分析了全球目前的人工智能治理机制，重点介绍了两项主要的治理举措，即以伦理为导向的社会约束体系和以法律为保障的风险防控体系，最后对人工智能治理的未来发展方向进行了展望，期待为社会各方提供有益参考。 目 录 一、人工智能开辟治理新需要. 1 （一）人工智能时代的兴起 . 1 1. 人工智能驱动新一轮科技革命 . 2 2. 人工智能打造经济发展新引擎 . 2 3. 人工智能显著提升社会生活质量 . 3 （二）人工智能的技术特性 . 4 1. 通用目的性，导致风险更为普遍 . 4 2. 算法黑箱性，导致过程更难解释 . 5 3. 数据依赖性，导致结果更不可控 . 5 （三）人工智能引发不同维度的风险 . 6 1. 社会维度：影响社会稳定 . 6 2. 企业维度：加大合规难度 . 7 3. 个人维度：侵犯基本权益 . 9 （四）人工智能治理的新挑战 . 10 1. 治理专业化的需要 . 11 2. 治理多元化的需要 . 11 3. 治理敏捷化的需要 . 12 4. 治理全球化的需要 . 12 二、全球构建人工智能治理机制. 14 （一）治理目标：坚持科技造福人类，平衡创新发展与有效治理 . 14 1. 不断释放人工智能带来的技术红利和价值 . 15 2. 精准防范并应对人工智能可能带来的风险 . 16 （二）治理模式：打造多元主体参与、协同共治的模式 . 17 1. 国家政府是执行治理规则的核心主体 . 17 2. 政府间国际组织是引导治理方向的重要力量 . 20 3. 行业组织是协调多方治理的积极推动者 . 20 4. 企业是践行行业自律自治的中坚力量 . 22 5. 公众是监督治理效果的重要参与者 . 23 （三）治理手段：实施多层次、多样化的治理举措 . 23 1. 伦理约束 . 24 2. 技术应对 . 25 3. 规范立法 . 25 三、以伦理为导向的社会规范体系. 27 （一）国际层面：开始制定全球性伦理倡议 . 28 （二）国家层面：各国伦理关注点各有侧重 . 31 1. 美国借助伦理规范保障国家安全 . 31 2. 欧盟推广可信人工智能伦理框架 . 32 3. 德国率先提出自动驾驶伦理准则 . 33 4. 中国倡导发展负责任的人工智能 . 33 （三）企业层面：践行伦理的自我规制之道 . 37 1. 制定企业伦理原则 . 37 2. 开展内部机构建设 . 38 3. 构建企业实践机制 . 39 （四）总结：人工智能伦理规制从伦理原则走向伦理体系 . 43 1. 第一阶段null已形成共识性伦理原则 . 43 2. 第二阶段null逐步探索伦理体系构建 . 50 四、以法律为保障的风险防控体系. 53 （一）全球人工智能立法整体趋势 . 53 1. 数据和算法规制成为人工智能立法的首要命题 . 54 2. 人工智能立法渐趋理性，更尊重技术规律和法律安定性 . 57 3. 普遍体现以风险为导向的分级分类治理思路 . 60 （二）人工智能的场景化规制 . 63 1. 助力自动驾驶落地 . 63 2. 防止深度伪造滥用 . 69 3. 规范智能金融产品 . 74 4. 促进智能医疗发展 . 77 五、人工智能治理展望. 81 （一）坚持包容、弹性的治理理念 . 81 （二）构建不同阶段的治理路径 . 83 1. 近期应加快制定产品和服务标准，利用“数据治理”推动人工智能治理问题的解决 . 84 2. 中远期应调整责任法律制度，实现法律与伦理相衔接 . 87 （三）打造多元共治的治理机制 . 89 图 目 录 图1 深度学习与传统机器学习的差别图 . 5 图2 人工智能治理机制图 . 14 图3 人工智能伦理文件类型图 . 28 图4 人工智能伦理体系图 . 50 表 目 录 表1 各国人工智能管理机构 . 18 表2 各国人工智能标准文件 . 21 表3 各国人工智能伦理文件 . 34 表4 科技企业人工智能伦理文件 . 40 表5 人工智能伦理原则、解释说明以及举例 . 45 表6 各国对于自动驾驶的立法规制 . 67 表7 各国对于深度伪造的立法规制 . 72 表8 各国对于智能金融产品的规制 . 76 表9 各国对于智能医疗的规制 . 80 人工智能治理白皮书 1 一、人工智能开辟治理新需要 人工智能是指，用机器模拟、实现或延伸人类的感知、思考、行动等智力与行为能力的科学与技术。作为引领未来的战略性技术，人工智能是新一轮科技革命和产业变革的重要驱动力量，已经成为国际竞争的新焦点、经济发展的新引擎。人工智能在极大提升人类生产水平和生活品质的同时，也带来了新风险、引发了新问题，对一个国家治理能力的法治化、智能化、专业化水平提出全新要求。目前，国际社会纷纷呼吁加强人工智能治理，发展安全可信、负责任的人工智能。 （一）人工智能时代的兴起 人工智能概念的提出，始于1956年美国达特茅斯会议。人工智能至今已有60多年的发展历程，从诞生至今经历了三次发展浪潮。前两次浪潮中，由于算法的阶段性突破而达到高潮，之后又由于理论方法缺陷、产业基础不足、场景应用受限等原因而没有达到人们最初的预期，并导致了政策支持和社会资本投入的大幅缩减，从而两次从高潮陷入低谷。近年来，在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术以及经济社会发展强烈需求的共同驱动下，以