2019-2020智能时代数字社会技术伦理报告.docx

2019-2020智能时代数字 社会 技术伦理 报告 2019 年 6 月 目录 引言 ： 智能时代迫 切 需要面向数 据 和算法的技 术 伦理 . 1 （一 ） 人工智能引 领 第四次工业 革 命加速变革 经 济社会 . 1 （二 ） 人工智能的 潜 力和价值巨 大 ，但也带来 需 要积极应对 的 问题和挑战 . 2 （三 ） 各界高度重 视 人工智能伦 理 ，多举措促 进 新技术健康 发 展 . 4 （四 ） 探索智能时 代 的技术伦理 观 ：信任、幸 福 与 可持续 . 8 一、 信 任（ trust） ： 人工智能需 要 价值引导 . 10 （一 ） 以人工智能 “ 四可 ” 原则 促 进人工智能 信 任 . 12 （二 ） 构建塑造人 工 智能信任的 规 则体系 . 16 二、 幸 福（ happiness） ：智能社 会 人机共生 . 19 （一 ） 人人都有追 求 数字福祉的 权 利 . 19 （二 ） 人人都有幸 福 工作的权利 . 21 三、可持续（ sustainability）：践行“科技向善”，塑造健康包容可持续的智慧社会 .23 结论 ： 以智能时代 的 技术伦理重 塑 数字社会的 信 任 . 25 1 引言：智能时代迫切需要面向数据和算法的技术伦理 （一）人工智能引领第四次工业革命加速变革经济社会 互联网的前三十年，是一个连接一切的故事，从连接人到连接商业再到连接万事万物，互联网技术以前所未有的速度和规模改变着人 类和人类社会。截至 2019 年 3 月 31 日，全球网民规模达到 43.8 亿， 占世界总人口 56.8%。中国以逾 8 亿网民规模成为全球最大互联网市场，个人应用、产业应用、政府应用等各类互联网应用蓬勃发展，为 人们创造着效率和便利。连接带来的创新，提升了个体生活，促进了 经济发展与社会进步。在这一发展过程中，互联网行业始终引领创新发展的浪潮。 再者，人工智能 （ 包括未来可能出现的强人工智能和超人工智能 ） 、机器人、大数据、物联网、区块链、云计算、虚拟现实、基因编辑、脑机接口、 3D 打印等新技术集群加速涌现和发展，有望引领第四次工业革命。尤其是人工智能，有望像历史上的火种和电力一样，重塑人 类 生活和人类社会的未来 加速的自动化和智能化，无处不在的连 接 ，物理与数字世界的融合，甚至人类与技术的融合。我们正在步入 高 度依赖技术的社会，生物层、物理层、技术层有可能融合成为三位 一 体。未来，包括企业在内的所有组织机构都会数字化、智能化。 智能时代的大幕正在拉开，在其中，无处不在的数据和算法正在 催生一种新型的人工智能驱动的经济和社会形式。人们常以 “ 数据化 ” 2 “ 智能化 ”“ 算法决定论 ” 等词汇描述这一趋势，但核心都是一样：人 工智能算法正在改变这个世界。比如，算法已在决定向你展示的广告、 新闻资讯等数字内容，可以评估你能否得到面试机会、获得贷款、拿 到救助金等，还能预测犯罪、犯罪人的危险性等。当然，人工智能的 应用并不局限于这些方面。基于大量的数据，人工智能有潜力做出比 人类更优的预测和决策，比如自动驾驶有望比人类驾驶更安全，智能 医疗影像诊断比医生的诊断结果更准确，智能语音识别的出错率也比 速记员更低。人工智能是一项通用技术，只要有数据，就有望普遍应 用于各行各业，进而提高生产力并促进经济增长。 （二 ） 人工智能的潜力和价值巨大，但也带来需要积极应对的问题和挑战 以人工智能为代表的这一轮新技术无疑拥有巨大的潜力和价值， 值得在研发和应用上持续投入，但任何有望变 革人类社会的新技术都 必然会带来社会伦理影响。例如，互联网技术带来的用户隐私、虚假 信息、算法 “ 黑盒 ” 、网络犯罪、电子产品过度使用等问题已经成为全 球关注焦点，引发全球范围内对互联网技术及其影响的反思和讨论， 探索如何让新技术带来个人和社会福祉的最大化。此外， 2018 年底发 生的基因编辑婴儿事件在国内外引发激烈的伦理争议。人工智能也是 如此，其在隐私、歧视、安全、责任、就业等经济、伦理和社会方面 的问题正在显现。未来可能出现的通用人工智能和超级人工智能则可 能带来更深远而广泛的安全、伦理等影响。 3 隐私方面， Facebook-剑桥分析数据丑闻引爆了社会对数据的泄露、不正当二次利用、滥用等问题的担忧，而这些问题已是现今互联网用户普遍面临的问题 很多应用软件会过度收集非必需的用户数据、冗长的 “ 用户须知 ” 或 “ 使用协议 ” 诱导用户授权厂商过度使用甚至出售用户数据等。此外，不法分子利用人工智能技术，可以非 法窃取、识别个人信息，甚至影响、操纵用户行为和认知。 歧视方面 ， “ 大数据杀熟 ” 成为 2018 年度社会生活类十大流行语之一，反映了人们对算法歧视的担忧，滴滴、携程、飞猪等都被质疑大数据杀熟。此外，语音识别、人脸识别、精准广告工具等算法应用 都可能存在偏见和歧视，甚至还曾引发了诉讼。 安全方面，自动驾驶汽车的安全问题尤其引人关注： Uber 的自动驾驶汽车在测试过程中撞死行人、特斯拉的 Autopilot 系统在运行过程中造成致命事故。人工智能在事关健康安全的医疗领域也出现过问 题，比如 IBM 的 “ 沃森医生 ” 给出过 “ 不安全且错误 ” 的癌症治疗建 议。除了人工智能系统本身可能不完善的问题，人工智能还面临着被外部攻击风险，比如图像识别和 语音识别技术的对抗攻击问题一直都 是相关应用头顶上的一片乌云，自动驾驶汽车和智能家居等连接网络 的物理设备也存在被网络远程干扰或操控的风险。此外，人工智能还 可能被用作攻击手段 比如用于生成虚假视频和图像 （ 所谓的 deepfake 即深度伪造 ） ，生产和传播假新闻，甚至被用于攻击人工智能系统。 4 责任方面，人工智能算法由于可能存在不透明、不可理解、不可 解释等特性，在事故责任认定和分配上也存在有待讨论的法律难题， 比如由于行人横穿公路而造成交通事故时自动驾驶汽车运营方是否 应该承担责任、智能监控摄像头厂商是否应该为摄像头被网络攻击的问题负责。 就业方面，人工智能可能造成大规模失业的风险一直备受社会关注，甚至有人认为人工智能的普及将会在人类社会中产生一批史无前 例的 “ 无用阶层 ” ；但同时也有人认为，与过去的蒸汽机和计算机等 技术一样，新技术在夺走一部分工作岗位的同时也会创造更多更好的 新型工作岗位。所以，人工智能对劳动力市场的长远影响究竟是积极的、消极的还是中立的，目前还很难预测。尽管如此，已经有一些政 府机构和研究者在思考和探索潜在的解决方案了，比如全民基本收入以及教育改革等。 （三 ） 各界高度重视人工智能伦理，多举措促进新技术健康 发展 总体来看，我们现在就有必要对人工智能等新技术进行更多的人文和伦理思考，正如华裔 AI 科学家李飞飞所言，要让伦理成为人工智能研究与发展的根本组成部分。因为正如基辛格所言，面对人工智能的兴起，人们在哲学、伦理、法律、制度、理智等各方面都还没做好准备，因为人工智能等技术变革正在冲击既有的世界秩序，我们却 5 无法完全预料这些技术的影响，而且这些技术可能最终会导致我们的世界所依赖的各种机器为数据和算法所驱动且不受伦理或哲学规范约束。 显然，在当前的人工智能等新技术背景下，我们比历史上任何时 候都更加需要 “ 科技向善 ” 理念，更加需要技术与伦理的平衡，以便 确保新技术朝着更加有利于人类和人类社会的方向发展。一方面，技 术意味着速度和效率，要发挥好技术的无限潜力，善用技术追求效率， 创造社会和经济效益。另一方面，人性意味着深度和价值，要追求人 性，维护人类价值和自我实现，避免技术发展和应用突破人类伦理底线。因此，只有保持警醒和敬畏，在以效率为准绳的 “ 技术算法 ” 和 以伦理为准绳的“ 人性算法 ” 之间实现平衡，才能确保 “ 科技向善 ” 。 因此，对伦理的强调和重视成为了当前人工智能领域的一大主旋律，社会各界纷纷制定相应的伦理准则或框架。例如，德国于 2017 年 为自动驾驶汽车提出了 20 条伦理原则。英国已经成立了数据伦理中心，视伦理为人工智能创新的核心之一并考虑制定普适的人工智能伦 理框架。欧盟人工智能战略的三大支柱之一即是确保欧盟具有与人工 智能发展和应用相适应的法律和伦理框架，为此欧盟委员会已经起草 人工智能伦理指南。中国的人工智能顶层政策要求制定促进人工智能 发展的法律法规和伦理规范。美国、加拿大、新加坡、印度、法国、意大利等国家和地区都有 类似的规划或政策。在国际层面， 2019 年 5 月 22 日，OECD 成员国批准了人工智能原则即负责任地管理可信赖 6 的 AI 的原则，该伦理原则总共有五项，包括包容性增长、可持续发展和福祉，以人为本的价值和公平，透明性和可解释，稳健性和安全可靠，以及责任。 2019 年 6 月 9 日， G20 批准了以人为本的 AI 原则， 主要内容来源于 OECD 人工智能原则，相当于为 OECD 人工智能原则背书。这是首个由各国政府签署的 AI 原则，有望成为今后的国际标准， 旨在以兼具实用性和灵活性的标准和敏捷灵活的治理方式推动人工智能发展。 以欧盟为例， 2019 年 4 月欧盟发布可信 AI 伦理指南 （ Ethics Guidelines for Trustworthy AI，以下称 “ 伦理指南 ” ） ，提出了可信 AI 框架，包含三个层次：一是可信 AI 的根基，从基本权利 （尊重人类尊严，个体自由，尊重民主、正义和法治，平等、非歧视和团结， 公民权利 ） 出发，提出 AI 必须遵循的四个伦理原则，即 AI 必须尊重 人类自主性，必须防止造成损害或者不利地影响人类，必须确保公平， 必须透明（ 针对 AI 的能力和目的 ） 、可解释 （ 针对 AI 作出的决定 ） 。 二是可信 AI 的实现，从七项关键要求来衡量 AI 是否可信，即人类能 动性和监督，技术稳健性和安全 （ 包括安全能经受攻击，后备计划和 一般安全，准确性，可靠性和再生性 ） ，隐私和数据治理 （ 包括尊重隐 私，数据质量和完整，数据访问 ） ，透明性 （ 包括可追溯，可解释，信息透明 ） ，多样性、非歧视和公平 （ 包括避免不公平的偏见，普遍可用 的设计，利益攸关方的参与 ） ，社会和环境福祉，问责 （ 包括可审计， 负面影响最小化及报告，权衡和救济 ） 。三是可信 AI 的评估，基于前 7 述 7 项关键要求，伦理指南提出了试点性的可信 AI 评估清单。评 估清单的目的在于为具体落实这些关键要求提供指引，帮助公司或组 织内不同层级如管理层、法务部门、研发部门、质量控制部门、 HR、 采购、日常运营等共同确保可信 AI 的实现。欧盟委员会鼓励所有利益攸关方落实这七项关键要求。 在业内，电气电子工程师学会 （ IEEE） 已在推进制定人工智能伦理标准（ 即 IEEE P7000 系列标准 ） 和认证框架， AI 白皮书合伦理设计 （ Ethically Aligned Design） 提出了八项基本原则。谷歌、微软、 Facebook、 DeepMind 等科技公司也多举措推进人工智能伦理研究，包括发起成立行业组织 （比如 Partnership on AI） 、成立伦理部门（ 比如 DeepMind 的伦理与社会部门，谷歌和微软的伦理委员会 ） 、提出人工智能伦理原则（ 比如谷歌的 7 条正面原则，包括 AI 应对社会有益， AI 应避免造成或加剧不公平歧视， AI 应安全可靠， AI 应对人们负责， AI 应融入隐私设计原则， AI 应维持高标准的学术卓越， AI应按照这些原则来使用；以及 4 条底线涉及谷歌不从事的 AI 应用， 包括可能造成普遍伤害的技术，造成或直接促成人员伤亡的武器或其 他技术，违反国际准则的监控技术，与国家法和人权原则相悖的技术。 微软的六大人工智能原则，公平： AI 系统应公平对待每一个人，可靠： AI 系统应可靠、安全地运行，隐私安全： AI 系统应是安全的并尊重隐私，包容： AI 系统应赋能每一个人并让人们参与，透明： AI 系统应是可以理解的，责任：设计、应用 AI 系统的人应对其系统的运行 8 负责 ） 。 要言之，各界已经基本达成共识，人工智能的发展离不开对伦理 的思考和伦理保障，以让人工智能的发展和应用能够遵循负责任的、 安全的、普惠的实践道路。因为我们正处在一个正在实现数据化和智 能化的时代，所以当前强调的技术伦理主要面向数据和算法。在计算 机与信息技术的发展史上，技术伦理经历了三次重大转变，每个阶段 都有其特殊的伦理问题并产生了相应的法律规制。第一阶段的关注焦 点是计算机，各国围绕计算机的安全、犯罪、欺诈、滥用等问题制定了一系列法律，这个阶段的典型立法包括美国 1984 年的计算机欺 诈与滥用法案等。互联网兴起之后，技术伦理发展到第二阶段，信 息大爆炸趋势下，信息成为关注焦点，法律规制围绕信息的隐私、保 护、传播、滥用等问题展开，这个阶段的立法包括欧盟 1995 年的个 人数据保护指令、美国 1996 年的通信规范法等。当前，技术伦理已经发展到了第三阶段，作为关注焦点的数据和人工智能算法带来 新的伦理问题，预计将出现一系列人工智能法律，例如，欧盟的 GDPR 已经针对人工智能应用作出了一些制度安排，欧盟议会发布的算法 责任与透明治理框架则在考虑建立算法治理框架。 （四）探索智能时代 的技术伦理观：信任、幸福与可持续 在人工智能伦理方面，腾讯公司董事会主席兼首席执行官马化腾在上海 “ 2018 世界人工智能大会 ” 上发表演讲时指出，我们需要充分