2019智能网联汽车引发商业伦理困境分析报告.docx

2019智能网联汽车引发商业伦理困境分析 报告目录 【内容摘要】 . 3 一、智能网联汽车面临伦理难题 . 4 二、无人情景的伦理困境 . 5 （一）电车难题 . 5 （二）隧道难题 . 6 （三）技术后门 . 7 三、智能网联汽车面临更深层难题 . 8 （一）民事责任 . 8 （二）信息安全 . 9 （三）社会难题 . 10 四、未来挑战 . 11 （一）挑战巨大 . 11 （二）进一步研究 . 13 【内容摘要】 智能网联汽车已经获准在上路测试，车辆可以通过深度学习变得越来越聪明，但是，就像任何无人系统一样， 自动驾驶汽车也是通过前置程序设计来运行，这个过程是由整车 制造商的工程师来完成，因而会引发一系列问题。一方面，传统 车辆的驾驶员在面对紧急交通场景时会通过瞬间本能来采取措 施，而工程师却有充足的时间前置开发自动驾驶车辆在不同场景 下的决策算法，并进行大量的试验来试图确保万无一失；另一方 面，在很长一段时间内，无人驾驶和有人驾驶会混杂运行于现有 交通体系中，这是 “ 智能机器 ” 与 “ 狡猾人类 ” 之间的博弈，判 定准则变的异常复杂。因此，不难想见，无人驾驶汽车会面临诸 多伦理困境、道德难题和法律缺陷，同时也存在个人隐私和国家 安全数据暴露的风险，甚至这些社会问题会严重迟滞于自动驾驶汽车的技术演进，进而阻碍产业的快速发展和产品的成熟应用。 一、智能网联汽车面临伦理难题 将来某天，乘客坐在一部自动驾驶汽车上疾驰行驶在街道上。解放了双手后 正在享受着路边的美景与车内的娱乐资讯，但在一个下坡路段，突然一辆在对向 车道行驶的校车冲了过来。这时自动驾驶车已经没时间刹停，也无法控制方向盘 完成紧急变道，自动驾驶汽车有三种选择：第一，紧急转向冲进树林，这样也许 会救了校车和乘客，但可能会让乘客丧命；第二，紧急变道进入对向车道，保证 自己的安全，牺牲校车司机和孩子们；此外，直接撞向校车，大家同归于尽。在日常驾驶中，这种极端情况很少会出 现，也来不及采取 “ 最为正确 ” 的措施。不 过，对于自动驾驶汽车而言，在设计之初就要针对类似情况做出设定。目前，世 界各国都在加快自动驾驶在真实大街上的测试运行，不久的将来，曾经只存在于 科幻电影中的无人汽车可能就会擦身而过，因此道德选择已经不再是停留在理论 阶段的空想，而是具有非常现实的意义。 智能网联汽车是全球各个国家争抢的产业制高点，涉及了未来汽车的核心软件、计算芯片和传感器等硬件、人工智能、大数据、云端控制平台、 5G 通信等一系列先进技术，将会对既有主流技术及产品引发根本性替代和全面升级，对诸多相关高技术群都有重大牵引和辐射作用。 智能网联汽车，可提供更安全、更节能、更环保、更舒适、更便捷的出行方式和综合解决方案，是城市智能交通系统的重要组成，是构建绿色汽车社会的核心要素，其意义不仅在于汽车产品与技术的升级，更有可能带来汽车及相关产业 全业态和价值链体系的重塑，是国际公认的未来发展方向和关注焦点之一，是千 载难逢的战略机遇。 自从汽车成为规模化产品至今的 100 多年中，汽车外观、材料、动力源、燃料发生了巨大的改变，车辆安全性、环保性、舒适性不断提升，然而，基础的道 路结构、人员驾驶规则、交通管理方式 鲜有变化。在这段新技术不断迭代更新的 过程中，车辆始终不曾拥有 “ 聪明大脑 ” 。近年来，随着汽车电子、互联网、下 一代通信、人工智能等关键技术的突破，汽车变得越来越智能，机器逐渐具备了 一些辅助驾驶功能，如定速巡航、自主泊车、主动紧急制动等，甚至将来会出现 机器替代人类驾驶汽车的情景，那么过去的驾驶方式与交通管理必然发生巨变， 伦理道德、法律法规、车辆监管必然暴露出严重的滞后性，甚至会制约自动驾驶技术与产业发展。 想象一下，当无人驾驶车辆行驶到拥堵路口时，其如何与人类驾驶的车辆博 弈通行？当自动驾驶汽车面对电车难题时，机 器如何进行两难选择？当高度智能 1 驾驶车与有人驾驶车辆发生撞击剐蹭时，谁来承担主要责任，是汽车制造商或者技术提供者，抑或算法设计师与规则制定者？当驾乘人员的隐私数据和国家地理 交通等安全数据面临巨大风险时，政府如何来防御与监管？不难发现，自动驾驶 面临的伦理困境绝非电影拯救大兵瑞恩 1中简单的伦理算人数问题，未来无人化会给汽车交通与出行引发更加深刻、更加错综的伦理难题和矛盾。 所以说，智能网联汽车技术以算法设计为前置，令原先由个人本能应对的不 同路况和紧急状况充满了诸多的伦理难题。 二、无人情景的伦理困境 历史上，存在电车难题、隧道难题等是伦理学领域的知名理论实验，难于发 生在现实生活当中，而近年来无人超市、无人飞行以及无人驾驶的出现，让这些 教科书中的经典论题难题更具现实意义。 （一）电车难题 1967 年，菲利帕 福特发表的堕胎问题和教条双重影响中，首次提到了 电车难题。电车难题是伦理学领域最为知名的思想实验之一，其内容大致是：一 个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来，并且片刻 后就要碾压到他们。幸运的是，你可以拉一个拉杆，让电车开到另一条轨道上。 然而问题在于，另一个电车轨道上也有一名无辜的人。 从一个功利主义者的观点来看，明显的选择应该是拉拉杆，拯救五个人只杀死一个人，这是一道简单的算术题。但是功利主义的批判者认为，一旦拉了拉杆， 你就成为一个不道德行为的同谋，因为你要为另一条轨道上无辜的人牺牲负一定 责任。 麻省理工学院已将自动驾驶的电车难题问题制作成网页游戏 “ 道德机器 ” ，通过全球网民的参与来收集人类对此问题的看法 2，期望将这类道德机器研究更早地带给公众与媒体，如图 1。游戏 呈现了一辆自动驾车汽车刹车系统发生故障，面临无法停止或者制动减速的窘境，必须在两难情况下做出选择，例如牺 牲车内两名乘客还是撞死路上五名身处人行横道上的行人，作为参与者需要在两 种情况下选择其一。 在自动驾驶技术发展中，不完备信息下的车辆决策结果有可能引发伦理问题的争议，因为相比人类一刹那的判断，智能车辆的决定是预先设计并植入的。此外，如何推动社会公平享用自动驾驶资源、解决老龄人、残疾人等社会弱势群体 的公平出行，也对自动驾驶运营系统设计中的伦理问题提出了挑战。 图 1 麻省理工学院制作的 “ 道德机器 ” 小程序 （二）隧道难题 隧道难题是电车难题的修改版本。你站在天桥上，看到有一台刹车损坏的电车。在轨道前方，有五个正在工作的人，他们不晓得电车向他们冲来。一个体重 很重的路人，正站在你身边，你发现他的巨大体形与重量，正好可以挡住电车， 让电车出轨，不致于撞上那五个工人。你是否应该动手，把这个很胖的路人从天桥上推落，以拯救那五个工人，还是应该坐视电车撞上那五个工人？ 在现有交通规则体系下，智能网联汽车会面临大量 “ 简化的 ” 电车和隧道难题。与以上电车难题类似的两难情况是，两名摩托车驾 驶员各自行驶，一名根据 交通法规佩戴安全头盔，另一名没有任何戴头盔，对于智能网联车辆来说，面临紧急情况时将会如何选择。诸多情况更加常见，如未走斑马线的行人、横跨护栏 的行人、闯红灯的车辆等，自动驾驶都将面临选择困境，是遵从法律？还是最小 损伤？ 除了电车难题和隧道难题，智能网联汽车可能还会遇到以下窘境，解决起来也着实困难 ： （ 1） 智能网联汽车在路上行驶时发现路两边有两批行人，一批人数多，而另一批则只有一人。这时它是否应该给人数更多的那拨行人留下更多安全 空间？如果这样做了，是否会增加那位单独行人被撞的几率？（ 2） 智能网联汽 3 车是否应该学习人类驾驶员，在大卡车驶过时主动让出更多空间？这样会不会增加自己撞到另一边车道上车辆或行人的可能？（ 3）如果智能网联汽车的法则里就没有 “ 撞击行人 ” 这个词，那么一旦有人要自杀 （ 主动撞车 ） ，车辆是否会失控？（ 4）如果一只狗突然冲了出来，或者麋鹿、松鼠之类，智能网联汽车是会直接撞过去？加速或刹车躲避？这样是不是就会增加撞到其他车辆的可能性？ （ 5）如果智能网联汽车智能到会躲避交通事故和拥堵，它们是否会蜂拥进入宁静的社区呢？如果真是这样，恐怕原本可以在社区奔跑打闹的孩子就危险了。同时，噪音变大的社区房地产价值也会随之缩水。 （三）技术后门 将来的智能网联车辆上要安装智能终端，将运行数据与信息上传到云端的监管平台，这就意味着这些自动驾驶车辆的一举一动都有可能被监控起来。未来， 我国将发挥体制优势，建立起集车内系统、基础设施、车辆使用与相关数据于一 体的国家智能汽车大数据云控基础平台，打造智能网联汽车的 “ 云大脑 ” 。 技术进步的同时，驾乘人员面临的风险是隐私权的完全暴露。借助 GPS 信号和行车记录仪，现在车辆无非是将自 身的位置和前向影像信息提供出来，但受 制于现有数据传输速度和带宽所限，以上信息无法实时地传输出去，也就降低了 大量隐私内容的暴露。但是将来， 5G 网络和车联网技术的成熟将加速暴露私有 信息的速度。美国国家公立交通安全管理局发布的汽车最佳网络安全指南里 明确指出 “ 防止汽车接入未授权的网络，保护关键安全系统和个人数据 ” 。美国 自动驾驶法案要求厂商必须制定隐私保护计划，包括对车主以及乘客信息的 搜集、保存、使用等方面的保护措施。同时，联邦交易委员会也展开了一项研究， 以确认哪些参与方将会获得车主或者乘客的隐私信息、 哪些信息可以公开、可以对隐私信息进行哪些处理等。可见对隐私权的保护是长期需要关注与加强管理。 与此同时，智能网联汽车要面临最为严苛的监管体系，需要开辟技术后门。目前，有关部门正在建立健全智能网联汽车生产制造、注册入网、联网运行、服 务业态和道路设施全过程安全管理体系，要增强智能网联汽车网络信息系统安全 防护能力。在保护人身安全和个人隐私的情况下，更要维护公共安全和国家利益。 因此，针对智能网联汽车的普及发展，需要一套更为完备的信息安全体系， 保障后门百分之百安全。有望建立起汽车信息安全测试、评价和认证服务平台， 构建汽车信息安全漏洞库，形成汽车信息安全统一的监控与管理平台以及快速应急响应机制。 电车难题、隧道难题以及车辆留下技术后门等都是智能网联汽车在无人状态 下产生的伦理困境，那为什么过去的有人驾驶车辆并未涉及这些问题呢？ 三、智能网联汽车面临更深层难题 智能网联车辆通过先进的计算处理平台，通过不断深度学习很快会拥有一个“ 聪明大脑 ” ，将来有望替代人 类驾驶员。然而，就像任何无人系统一样，无人 驾驶汽车业会面临诸多困境，而且由于汽车和交通将是人工智能与实体经济最大 的结合点，因此面临的社会问题、伦理矛盾会更加深刻。 （一）民事责任 科技创新尤其新一代人工智能而引发的责任主体的多元化、因果关系的复杂化将导致将来交通事故侵权责任类型多样化，民事责任判定更加复杂。民事责任归属可能是对方原因、汽车硬件缺陷、程序系统故障（自身、第三方 ） 、所有人 或管理者未尽责。当中，系统程序的故障又有系统自身运行错误和第三方入侵系 统造成两种情况。 2016 年，谷歌无人驾驶汽车与一辆公 交大巴发生摩擦，就引发 了对无人驾驶系统牵涉责任主体界定的争议。今后，无人系统的自主性不断提升， 将对传统法律体系产生巨大的冲击和颠覆。 按照智能化水平， L3 级以下的智能网联汽车拥有防碰撞、车辆跟随、自动泊车等辅助驾驶功能，皆为人类驾驶员为主。如果驾驶员启动辅助驾驶时，将双 手脱离开方向盘，车辆会提醒驾驶员手动控制方向，而不应该完全依赖于自动驾驶系统。因此，目前较为普及的辅助驾驶行驶时，所采用的机动车交通事故民事 责任认定方法与现存管理办法并无区别。现阶段，车企都是与用户签订免责条款， 来避免辅助驾驶过程产生的事故责任争议问题。 然而，当迎来 L3 以上的自动驾驶时，人类将车辆控制权让位于机器，谁来负责安全驾驶的责任变得并不清晰。技术方案研发商提供了自动驾驶解决技术、车辆制造商生产了自动驾驶车辆、交通管理部门发布动态交通信息，如果算上驾驶员、其他事故参与人员等责任方在一次，如果要清晰地判断出交通事故的责任 显得更加困难，法律也应该有预判。自动驾驶技术的变革并未动摇机动车责任的 构造，却令自动驾驶汽车的制造商或者技术提供商具备了驾驶人的属性。这种生 产者的产品责任有替代机动车责任的趋势，并与我国现 行机动车交通责任认定、 强制保险等发生矛盾，所属的监管部门之间也出现了管理交集，是自动驾驶发展所面临的更加实际的问题。 作为自动驾驶车辆生产强国的德国于 2017 年 5 月颁布了自动驾驶汽车法， 成为世界首部规范自动驾驶车辆的法律文件。该法规定了自动驾驶车辆需要安装黑匣子装置，记录车辆运行情况以明确交通事故责任。事故发生在人工驾驶阶段 的由驾驶人承担责任，发生在驾驶系统运行阶段或者系统失控状态下的由汽车制 5 造商承担责任。可以说，德国做出了尝试，基于民事事故责任给出了明确的划分。 （二）信息安全 随着汽车智能化、网联化和电动化程度的不断提高，汽车的信息安全问题日益严峻。信息篡改、病毒入侵等手段已成功被黑客应用于汽车攻击中，特别是近 年来不断频发的汽车信息安全召回事件更是引发行业的高度关注。因此，智能网 联汽车信息安全已经成为汽车产业甚至社会关注的焦点。 汽车的信息安全危机不仅能够造成驾乘人员隐私、企业经济的损失，还能造成车毁人亡的严重后果。电影速度与激情 8 3中，恐怖组织的技术员对三公里内的所有车辆进行黑客 入侵，包括正在路上行驶的、路边停靠的、立体停车库内的、以及商店待销售的，让数百辆车均进入了无人驾驶系统，并且关闭了汽车的 防碰撞功能。于是这些无人驾驶车辆排山倒海地涌上街头，追逐目标车辆，速度一致、目标相同，好比 “ 僵尸来袭 ” 。虽然电影中描述的场景即使在未来都较为 夸张，但一定要保障车辆驾驶安全和数据安全，防范系统被攻击或控制、重要资 料被窃取、用户数据被篡改、甚至冒充合法用户对车辆进行控制。 图 2 电影速度与激情 8刻画了大街上车辆的安全系统被破解后横冲直撞 未来，智能网联汽车涉及的大数据源是来自诸多渠道，包括了日常消费、工作、关注咨询与娱乐等方方面面内容。 2015 年，阿里巴巴和上海汽车合资成立了斑马智行，其核心模式为通过大数据融合打造一个车联网生态平台。斑马以汽车 为终端，通过融合用户数据、车辆使用数据、阿里账号系统数据以及斑马智行平 台内所有第三方应用产生的数据，对用户进行深度画像，进行云端一体的分析计 算，达到 “ 服务找人 ” 的功能。例如，某用户使用支付宝购买了 2 张电影票，车 辆即会引导用户是否需要前往电影院的导航。假如看完电影后回去路上正好是晚 餐时间，也可以推荐附近好评率高或根据支付记录搜索到用户常去的餐厅，推荐 符合用户口味的菜品。斑马智行通过这些数据打造更适合用户的功能，同时功能使用进一步产生新的数据，形成完整的闭环，面对这些海量数据的安全和隐私问 题对于公司与政府都将是不小的挑战。 更进一步，智能网联汽车的信息安全将成为国家公共安全的重要课题。现阶段，为了安全运营与运行，我国已经建立了 “ 两客一危 ” 和新能源汽车数据监管平台，未来，随着车辆自动驾驶水平的不断提高，国家也会建立一套车辆安全监 控云平台，将汽车运行过程中的安全数据传输、存储并加以分析，紧急情况下还要能够控制车辆。因此，要保障智能汽车管控中心的云平台避免恶意威胁，除了 需要病毒防护、中间件安全防护以及访问控制外，还要高度重视数据安全防护问 题。 不远的将来，自动驾驶穿梭在一路畅通的城乡道路和四通八达的高速公路之上，近零排放的智能网联汽车勾勒出祖国天穹一片片蓝天白云，智能网联汽车运 行零伤亡事故增强亿万华夏儿女幸福感，勤劳朴实的中国人民愉快地学习、工作、 生活在智能汽车移动空间，繁忙都市的人、车、路井然有序，和谐相处。 （三）社会难题 人工 智能时代背景下，无人技术的应用涉及领域显得更加宽泛，将导致原有就业岗位和就业人数需求数量骤减，对于出租客运、长途货运、环卫、路面保养等岗位的影响似乎来得更加迅速、更加猛烈。在美国，约有 180 万卡车司机每天从事着长途运输的工作，自动驾驶对于高速运输业可以减少重大交通事故、降低司机的工作强度，然而 2017 年 7 月美国卡车司机工会却成功游说了美国国会， 减缓了各州智能网联汽车普及的立法进程，希望保护这一类巨大的、收入颇丰的蓝领司机群体，而这涉及到了美国 380 万人口。也许工会仅暂缓了自动驾驶取代 货车 司机的速度，而相比司机每日仅能工作 10 小时而言，自动驾驶运输可以做 到 24 小时不停歇工作，且运输成本更低廉，因此将来运输货物或者出租客运是有望实现免费，这一重大趋势是无法阻挡的。机器人及数字助手将取代绝大多数 的蓝领和白领阶层，并将导致收入不平等状况恶化，大量人群因失业而造成社会 秩序失控。 航空业的自动驾驶也许对于汽车智能化发展颇具借鉴意义。在航空自动驾驶发展的初期，许多飞行员担心自动驾驶功能会取代他们，而如今，驾驶舱内部的自动驾驶系统异常复杂，飞机的运营效率和安全性大幅提高，在这个过程中驾驶员非但没有被替代，反而因为能熟练操作复杂系统、懂得排除各种故障而成为高收入阶层。因此，航空自动驾驶的实现最终没有引发大的社会问题，同时也说明 7