资源描述
人工智能数据 安全 白 皮书 中国信息通信 研究院 安全研究所 2019年 8月 版权声明 本白皮书 版权属于 中国信息通信研究院 安全研究所 ， 并受法律保护 。 转载、摘编或利用其它方式使用 本 白皮书 文字或者观点的，应 注明 “ 来源： 中国信息通信研究院 安全研究所 ” 。违反上述声明者，本 单位 将追究其相关法律责任。 前 言 人工智能作为引领新一轮科技革命和 产业变革 的战略性技术， 已成为世界主要国家 谋求新一轮国家科技竞争主导权的关键领域。随着政府人工智能战略布局 的落地实施， 全球 人工智能发展正进入技术创新迭代持续加速和融合应用拓展深化的新阶段，深刻改变着国家政治、经济、社会、 国防 等领域的 运行模式，对 人类生产生活 带来翻天覆地的变化。 数据作为 驱动本轮人工智能浪潮 全面兴起 的 三大基础要素之一 ，数据安全风险 已 成为影响人工智能安全 发展的 关键 因素。 与此同时，人工智能应用 也 给数据安全带来严峻挑战 ,如何应对 人工智能 场景下的数据安全风险 日渐成为国际 人工智能治理的重要议题 。 部分国家 已率先探索人工智能数据 安全风险的 前瞻研究和 主动预防 ， 并积极推动人工智能 在数据 安全 领域应用， 力求实现人工智能与数据安全的良性互动发展 。 本白皮书从人工智能数据安全 的内涵出发，首次 提出 人工智能数据安全的 体系架构，在系统梳理 人工智能 数据安全 风险和安全应用情况的基础上，总结了国内外人工智能数据安全治理现状，研究 提出 了我国人工智能数据安全治理建议。 目 录 一、 人工智能数据安全概述 . 1 （一） 人工智能安全 . 1 （二） 人工智能数据安全内涵 . 2 （三） 人工智能数据安全体系架构 . 3 二、 人工智能数据安全风险 . 5 （一） 人工智能自身面临的数据安全风险 . 5 （二） 人工智能应用导致的数据安全风险 . 7 （三） 人工智能应用加剧的数据治理挑战 . 11 三、 人工智能数据安全应用 . 13 （一） 人工智能与数据安全治理 . 13 （二） 人工智能在数据安全治理中的应用 . 15 四、 国内外人工智能数据安全治理动态 . 23 （一） 国内外人工智能数据安全战略规划情况 . 24 （二） 国内外人工智能数据安全伦理规范情况 . 28 （三） 国内外人工智能数据安全法律制定情况 . 30 （四） 国内外人工智能数据安全技术发展情况 . 32 （五） 国内外人工智能数据安全标准规范情况 . 34 五、 人工智能数据安全治理建议 . 36 （一） 明晰发展与安全并举的治理思路 . 36 （二） 引导社会遵循人工智能伦理规范 . 37 （三） 建立人工智能数据安全法律法规 . 37 （四） 完善人工智能数据安全监管措施 . 38 （五） 健全人工智能数据安全标准体系 . 39 （六） 创新人工智能数据安全技术手段 . 39 （七） 培养复合人工智能数据安全人才 . 40 人工智能数据安全白皮书（ 2019 年） 中国信息通信研究院 1 一、 人工智能数据安全概述 （一） 人工智能安全 当前，由人工智能引领的新一轮科技革命和产业变革方兴未艾，正在对经济发展、社会进步、国家治理等方面产生重大而深远的影响。世界主要国家 和全球产业界 高度重视并积极 布局，人工智能 迎来新的发展浪潮 。然而， 技术 进步往往是一把“双刃剑”， 本项目 组在人工智能安全白皮书（ 2018 年）中 提出人工智能 因其 技术 的局限性 和应用的广泛性 ， 给网络安全、数据安全、算法安全和信息安全带来风险， 并对国家政治、 军事和社会安全带来诸多挑战。与此同时， 人工智能因其突出的数据分析、知识提取、自主学习、智能决策等 能力，可在网络 防护 、 数据 管理、信息 审查 、 智能安防、 金融 风控、 舆情监测等网络信息安全 领域和社会公共安全领域 有 许多创新性应用。 为有效管控人工智能安全风险并积极促进人工智能技术在安全领域应用，可从法规政策、标准规范、技术手段、安全评估、人才队伍、可控生态等方面 构建 人工智能安全管理 体系 。 图 1 人工智能安全体系架构图 人工智能数据安全白皮书（ 2019 年） 中国信息通信研究院 2 （二） 人工智能数据安全内涵 1、人工智能与数据 人工智能与 数据相辅相成、互促发展。 一方面， 海量 优质 数据助力人工智能发展。 现阶段， 以深度 学习 为代表的人工 智能 算法设计与优化需要以海量 优质数据为驱动 。 谷歌研究提出，随着训练数据数量级的增加，相同机器视觉算法模型的性能呈线性上升。 牛津大学国际发展研究中心将大数据质量和可用性作为评价政府人工智能准备指数的重要考察项 1。美国欧亚集团咨询公司将数据数量和质量视为衡量人工智能发展潜力的重要评价指标 2。 另一方面，人工智能显著提升数据收集管理 能力 和数据 挖掘 利用水平。 人工智能在人们日常生活和企业生产经营中大规模应用，获取、收集和分析更多用户和企业数据， 促进人工智能语义分析、内容理解、模式识别等方面技术能力进一步优化，更好地实现对收集的海量数据 进行 快速 分析 和 分类管理。而且，人工智能 对 看似毫不相关的 海量数据进行深度挖掘分析， 发现经济社会运行规律、用户心理和行为特征等新知识。 基于新知识， 人工智能进一步提升对未来的预测和对现实问题的实时决策能力， 提升数据资源 利用 价值 ， 优化企业经营 决策、创新 经济发展 方式、完善社会治理体系 。 2、人工智能数据 安全 数据安全是人工智能安全的 关键。 数据 成为本轮人工智能浪潮兴起发展的关键要素 。人工智能算法设计与优化 需要 以海量优质数据资1 2019 年政府人工智能准备指数 2 中国拥抱 AI 人工智能数据安全白皮书（ 2019 年） 中国信息通信研究院 3 源为基础 。 数据质量 和安全直接 影响人工智能 系统 算法模型 的准确性 ，进而威胁 人工智能 应用安全。 与此同时 ， 人工智能显著提升 数据收集管理能力和数据价值 挖掘利用水平。 人工智能这些 能力一旦被不当或恶意利用， 不仅 威胁 个人隐私和企业资产安全， 甚至 影响 社会稳定和国家安全。 而且， 人工智能、大数据与实体经济不断深度融合， 成为推动数字经济 和智能社会 发展的关键 要素。 人工 智能 大规模应用间接促使数据权属 问题 、数据违规 跨境等 数据治理 挑战 进一步加剧 。 人工智能为数据 安全 治理带来新机遇。 人工智能驱动数据安全治理加速向自动化、智能化、高效化、精准化方向演进。人工智能自动学习和自主决策能力可有效缓解现有数据安全技术手段对专业人员分析判断的高度依赖，实现对动态变化数据安全风险的自动和智能监测防护。人工智能卓越的海量数据处理能力可有效弥补现有数据安全技术手段数据处理能力不足的缺陷，实现对大规模数据资产和数据活动的高效、精准管理和保护。 人工智能赋能数据安全治理，助力数据大规模安全应用，将有力推动经济社会数字化转型升级。 基于以上 分析， 项目组认为，人工智能 数据安全 内涵包含 ：一 是应对人工智能 自身面临和 应用 导致 及加剧 的 数据安全风险 与 治理挑战；二是促进 人工智能在数据安全 领域 中的应用 ；三是构建人工 智能数据安全 治理 体系， 保障人工智能安全 稳步发展。 （三） 人工智能数据安全体系架构
展开阅读全文