智能网联汽车预期功能安全前沿技术研究报告.pdf

智能网联汽车预期功能安全前沿技术研究报告发布版 2020年 12月 版 本 维 护 ：版 本 修 改 内 容 作 者 时 间 备 注V1.0 研 究 内 容 提 纲 清 华 大 学 、 国 汽 (北 京 )智 能 网联 汽 车 研 究 院 有 限 公 司 （ 国 家智 能 网 联 汽 车 创 新 中 心 ） 2020.05.06 待 讨 论V2.0 根 据 组 长 单 位意 见 修 订 清 华 大 学 2020.06.04 待 讨 论V3.0 根 据 各 成 员 单位 意 见 修 订 清 华 大 学 、 国 汽 (北 京 )智 能 网联 汽 车 研 究 院 有 限 公 司 （ 国 家智 能 网 联 汽 车 创 新 中 心 ） 2020.06.19 待 讨 论V4.0 第 一 次 统 稿 重 庆 长 安 汽 车 股 份 有 限 公 司 、东 风 汽 车 集 团 有 限 公 司 、 北 京汽 车 股 份 有 限 公 司 、 清 华 大 学 苏 州 汽 车 研 究 院 、 北 京 航 空 航天 大 学 2020.10.10V5.0 第 二 次 统 稿 清 华 大 学 、 公 安 部 交 通 管 理 科学 研 究 所 、 中 国 信 息 通 信 研 究院 、 浙 江 吉 利 汽 车 研 究 院 有 限公 司 、 泛 亚 汽 车 技 术 中 心 有 限公 司 、 同 济 大 学 、 电 子 科 技 大学 、 重 庆 长 安 汽 车 股 份 有 限 公司 、 重 庆 大 学 、 北 京 理 工 大 学 、清 华 大 学 苏 州 汽 车 研 究 院 、 东风 汽 车 集 团 有 限 公 司 、 中 汽 研汽 车 检 验 中 心 （ 天 津 ） 有 限 公司 、 北 京 汽 车 股 份 有 限 公 司 、上 海 机 动 车 检 测 认 证 技 术 研 究 中 心 有 限 公 司 、 北 京 航 空 航 天大 学 、 吉 林 大 学 2020.11.18V6.0 内 容 整 体 梳 理 清 华 大 学 、 国 汽 (北 京 )智 能 网联 汽 车 研 究 院 有 限 公 司 （ 国 家智 能 网 联 汽 车 创 新 中 心 ） 2020.12.02 I 目 录第 1章 前 言 .11.1 预 期 功 能 安 全 前 沿 技 术 研 究 报 告 背 景 .11.2 预 期 功 能 安 全 前 沿 技 术 研 究 报 告 内 容 .11.3 预 期 功 能 安 全 前 沿 技 术 研 究 报 告 使 用 范 围 .1第 2章 国 内 外 智 能 网 联 汽 车 安 全 相 关 政 策 /法 规 .22.1 美 国 自 动 驾 驶 汽 车 相 关 法 规 政 策 .22.1.1 概 述 .22.1.2 特 点 分 析 .32.1.3 主 要 内 容 .4 2.2 日 本 自 动 驾 驶 汽 车 相 关 法 规 政 策 .92.2.1 概 述 .92.2.2 特 点 分 析 .102.2.3 主 要 内 容 .112.3 欧 洲 自 动 驾 驶 汽 车 相 关 法 规 政 策 .202.3.1 概 述 .202.3.2 特 点 分 析 .212.3.3 主 要 内 容 .212.4 我 国 自 动 驾 驶 汽 车 相 关 法 规 政 策 .31第 3章 国 内 外 智 能 网 联 汽 车 预 期 功 能 安 全 相 关 标 准 .33 3.1 国 外 智 能 网 联 汽 车 预 期 功 能 安 全 相 关 标 准 .333.2 国 内 智 能 网 联 汽 车 预 期 功 能 安 全 相 关 标 准 .373.3 智 能 网 联 汽 车 预 期 功 能 安 全 标 准 的 发 展 现 状 及 趋 势 .39第 4章 国 内 外 智 能 网 联 汽 车 预 期 功 能 安 全 相 关 技 术 .404.1 感 知 面 临 的 预 期 功 能 安 全 挑 战 与 发 展 方 向 .404.1.1 感 知 系 统 面 临 的 预 期 功 能 安 全 挑 战 .404.1.2 感 知 算 法 的 预 期 功 能 安 全 相 关 研 究 .424.1.3 感 知 系 统 未 来 发 展 方 向 .444.2 预 测 相 关 的 预 期 功 能 安 全 技 术 .444.3 决 策 相 关 的 预 期 功 能 安 全 技 术 .46 II 4.4 控 制 相 关 的 预 期 功 能 安 全 技 术 .484.5 人 机 交 互 技 术 现 有 局 限 与 分 析 方 法 .494.5.1 HMI交 互 技 术 及 其 局 限 .494.5.2 人 机 交 互 开 发 过 程 .514.5.3 人 机 交 互 分 析 方 法 .524.6 预 期 功 能 安 全 系 统 分 析 方 法 .554.6.1 故 障 树 分 析 （ FTA） .564.6.2 失 效 模 式 与 影 响 分 析 （ FMEA） .564.6.3 危 险 与 可 操 作 性 分 析 （ HAZOP） .574.6.4 系 统 理 论 过 程 分 析 （ STPA） .58 4.6.5 不 同 安 全 分 析 方 法 对 比 .58第 5章 国 内 外 智 能 网 联 汽 车 预 期 功 能 安 全 相 关 专 利 .655.1 国 外 智 能 网 联 汽 车 预 期 功 能 安 全 相 关 专 利 .655.2 国 内 智 能 网 联 汽 车 预 期 功 能 安 全 相 关 专 利 .665.3 智 能 网 联 汽 车 预 期 功 能 安 全 专 利 总 结 .68第 6章 国 内 外 智 能 网 联 汽 车 场 景 库 研 究 现 状 .716.1 国 外 智 能 网 联 汽 车 场 景 库 研 究 现 状 .716.1.1 PEGASUS.716.1.2 NHTSA.716.1.3 Waymo.71 6.1.4 福 特 数 据 集 .726.1.5 KITTI 数 据 集 .726.1.6 NuScenes数 据 集 .726.1.7 Argoverse数 据 集 .736.1.8 Lyft 自 动 驾 驶 汽 车 数 据 集 .736.1.9 H3D-HRI-US 数 据 集 .746.1.10 CamVid 数 据 集 .756.1.11 BDD100K数 据 集 .756.1.12 Cityscapes 数 据 集 .766.1.13 RobotCar 数 据 集 .77 6.1.14 rFpro.77 III 6.1.15 MapillaryVistas 数 据 集 .786.1.16 Caltech数 据 集 .786.1.17 DaimlerUrbanSegmetation 数 据 集 .796.2 国 内 智 能 网 联 汽 车 场 景 库 研 究 现 状 .796.2.1 智 能 网 联 汽 车 驾 驶 场 景 数 据 库 .796.2.2 中 国 交 通 事 故 深 入 研 究 （ CIDAS） 数 据 库 .806.2.3 中 国 典 型 驾 驶 场 景 库 i-Scenario.806.2.4 中 国 智 能 驾 驶 全 息 场 景 库 建 设 （ “昆 仑 计 划 ”） .806.2.5 百 度 .816.2.6 自 动 驾 驶 场 景 库 “镜 ”.81 6.2.7 公 安 部 交 通 研 究 所 .81第 7章 国 内 外 智 能 网 联 汽 车 功 能 测 试 评 价 体 系 .837.1 国 外 智 能 网 联 汽 车 功 能 测 试 与 评 价 现 状 .837.1.1 虚 拟 仿 真 测 试 .837.1.2 场 地 测 试 .857.1.3 公 开 道 路 测 试 准 入 条 件 与 道 路 测 试 .867.1.4 评 价 体 系 与 可 接 受 风 险 的 测 试 指 标 .907.2 国 内 智 能 网 联 汽 车 功 能 测 试 与 评 价 现 状 .937.2.1 虚 拟 仿 真 测 试 .937.2.2 场 地 测 试 .95 7.2.3 公 开 道 路 测 试 准 入 条 件 现 状 .987.2.4 评 价 体 系 与 可 接 受 风 险 的 测 试 指 标 .1027.3 智 能 网 联 汽 车 测 试 评 价 发 展 趋 势 分 析 .1057.3.1 虚 拟 仿 真 测 试 发 展 趋 势 .1057.3.2 智 能 网 联 汽 车 试 验 场 建 设 建 议 .1067.3.3 智 能 网 联 汽 车 测 试 评 价 的 挑 战 和 目 标 .107第 8章 典 型 ADAS系 统 的 SOTIF研 究 现 状 .1098.1 车 道 保 持 系 统 的 预 期 功 能 安 全 研 究 .1098.2 自 动 刹 车 辅 助 系 统 的 预 期 功 能 安 全 研 究 .1098.3 自 适 应 巡 航 系 统 的 预 期 功 能 安 全 研 究 .111 8.4 交 通 拥 堵 辅 助 系 统 的 预 期 功 能 安 全 研 究 .111 IV 8.5 自 主 泊 车 系 统 的 预 期 功 能 安 全 研 究 .1128.5.1 AVP系 统 的 设 计 运 行 域 .1128.5.2 AVP的 SOTIF相 关 危 害 .1138.5.3 识 别 和 评 估 AVP潜 在 的 功 能 不 足 和 触 发 条 件 .1138.5.4 AVP功 能 修 改 以 减 少 SOTIF相 关 风 险 .113附 表 A 预 期 功 能 安 全 相 关 专 利 汇 总 .115附 表 B 现 有 材 料 提 供 单 位 .119 名 词 表名 词 缩 写 含 义SafetyOfTheIntendedFunctionality SOTIF 预 期 功 能 安 全OperationDesignDomain ODD 运 行 设 计 域DynamicDrivingTask DDT 动 态 驾 驶 任 务Edgecase 边 缘 场 景AdvancedDriverAssistanceSystem ADAS 先 进 驾 驶 辅 助 系 统HumanMachineInterface HMI 人 机 交 互Verification（ b） 改 善 人 机 界 面 ； （ c） 实 施 监 测 预 警 系 统 。 图 4-3展 示 了 方 向 盘 释 放 时 警 告 驾 驶 人 的 示 例 。 图 4-3 方 向 盘 释 放 时 警 告 驾 驶 人 的 示 例4.6 预 期 功 能 安 全 系 统 分 析 方 法面 向 不 同 领 域 的 安 全 相 关 系 统 ， 研 究 人 员 已 提 出 多 种 安 全 分 析 方 法 。 现 有 车 辆功 能 安 全 标 准 54以 及 预 期 功 能 安 全 标 准 55中 即 列 举 了 故 障 树 分 析 (Fault TreeAnalysis， FTA)、 失 效 模 式 及 效 应 分 析 (FailureModeandEffectAnalysis， FMEA)、 危险 与 可 操 作 性 分 析 (Hazard and OperabilityAnalysis， HAZOP)、 系 统 理 论 过 程 分 析（ Systems-TheoreticProcessAnalysis， STPA） 等 方 法 。 在 预 期 功 能 安 全 的 开 发 初 期 ，可 结 合 以 上 一 种 或 多 种 安 全 分 析 方 法 全 面 识 别 所 定 义 的 预 期 功 能 的 相 关 危 害 ， 作 为危 害 评 估 的 输 入 。 上 述 方 法 在 原 理 和 分 析 思 路 上 均 存 在 差 异 性 ， 因 而 在 面 对 不 同 分 析 对 象 时 表 现 出 不 同 的 适 用 性 和 有 效 性 ， 下 文 将 展 开 介 绍 每 种 安 全 分 析 方 法 及 其 主要 应 用 范 围 。 56 4.6.1 故 障 树 分 析 （ FTA）故 障 树 分 析 （ FTA） 是 一 种 基 于 多 米 诺 骨 牌 理 论 的 安 全 分 析 方 法 （ 图 4-4） ， 其将 事 故 描 述 为 以 特 定 时 间 顺 序 发 生 的 离 散 事 件 的 结 果 56。 该 方 法 由 贝 尔 电 话 实 验室 的 Watson在 1961 年 提 出 ， 是 一 种 自 上 而 下 的 演 绎 方 法 57， 其 分 析 过 程 以 系 统级 失 效 状 态 （ 即 事 故 ） 作 为 顶 事 件 ， 通 过 梳 理 引 起 顶 事 件 的 原 因 事 件 并 根 据 其 逻 辑关 系 建 立 故 障 树 图 ， 从 而 确 定 引 起 失 效 的 基 本 事 件 （ 即 部 件 故 障 ） 58。 FTA分 析的 特 点 是 直 观 且 逻 辑 性 强 ， 可 以 用 于 定 性 分 析 ， 也 可 在 已 知 各 部 件 故 障 率 的 情 况 下进 行 定 量 分 析 。 该 方 法 主 要 应 用 于 机 电 、 电 气 系 统 的 安 全 及 可 靠 性 分 析 5960， 了解 系 统 失 效 的 原 因 ， 也 可 以 结 合 定 量 分 析 对 系 统 潜 在 风 险 进 行 评 估 ， 进 而 设 计 降 低风 险 的 策 略 ， 或 者 对 已 发 生 的 安 全 事 故 进 行 原 因 分 析 61。 该 方 法 也 用 于 对 自 动 化 系 统 的 分 析 ， 如 飞 机 自 动 飞 行 系 统 62和 自 动 化 配 电 系 统 63等 。图 4-4 多 米 诺 骨 牌 理 论4.6.2 失 效 模 式 与 影 响 分 析 （ FMEA） 失 效 模 式 与 影 响 分 析 （ FMEA） 是 一 种 由 下 而 上 的 归 纳 式 分 析 方 法 ， 由 美 国 宇航 局 于 20世 纪 60年 代 提 出 。 该 方 法 同 样 基 于 多 米 诺 骨 牌 理 论 ， 通 过 对 产 品 的 子 系统 、 零 件 以 及 其 构 成 过 程 的 各 个 工 序 逐 一 进 行 分 析 ， 找 出 所 有 潜 在 的 失 效 模 式 ， 并分 析 其 可 能 的 后 果 。 其 分 析 过 程 与 FTA相 反 ， 从 部 件 具 体 故 障 出 发 ， 通 过 层 层 分 析故 障 的 影 响 和 后 果 ， 从 而 确 定 部 件 故 障 导 致 的 系 统 事 故 6465。 FMEA分 析 的 特 点是 全 面 且 系 统 的 对 所 有 部 件 逐 一 分 析 。 该 方 法 主 要 应 用 于 设 计 及 生 产 过 程 的 工 序 安全 性 分 析 66， 以 及 设 备 可 能 存 在 的 故 障 及 其 影 响 分 析 67。 该 方 法 不 仅 在 车 辆 系 统68上 有 诸 多 应 用 ， 也 被 应 用 于 车 辆 柔 性 部 件 、 制 动 系 统 、 锂 电 池 系 统 以 及 内 燃 机系 统 的 故 障 分 析 ， 为 面 向 安 全 性 的 设 计 提 供 支 持 69-73。 57 FTA和 FMEA方 法 在 现 有 系 统 安 全 分 析 中 得 到 了 广 泛 应 用 ， 为 了 实 现 更 加 全 面的 分 析 ， 研 究 人 员 常 常 结 合 两 种 方 法 进 行 应 用 ， 先 通 过 FMEA对 系 统 各 部 件 的 故 障及 其 影 响 进 行 分 析 ， 得 到 部 件 级 失 效 ， 然 后 应 用 FTA从 事 故 开 始 分 析 ， 建 立 事 故 与部 件 级 失 效 的 关 系 ， 实 现 自 上 而 下 和 自 下 而 上 方 法 的 合 理 平 衡 。 多 项 研 究 表 明 74-77结 合 以 上 两 种 方 法 的 分 析 对 由 于 具 体 的 软 硬 件 故 障 导 致 的 系 统 事 故 分 析 具 有 相当 可 行 性 和 有 效 性 。4.6.3 危 险 与 可 操 作 性 分 析 （ HAZOP）危 险 与 可 操 作 性 分 析 （ HAZOP） 是 一 种 基 于 经 验 的 结 构 化 分 析 方 法 ， 通 过 由 设计 人 员 和 操 作 人 员 在 内 的 专 家 小 组 系 统 地 辨 识 各 种 潜 在 的 偏 离 设 计 目 的 的 偏 差 ， 分 析 各 偏 差 发 生 的 原 因 并 评 估 相 应 的 后 果 78。 该 方 法 的 核 心 在 于 采 用 经 过 挑 选 的 关键 词 表 ， 例 如 “大 于 ”“小 于 ”“部 分 ”等 ， 来 描 述 每 一 个 潜 在 的 偏 离 ， 以 识 别 出 所 有 的故 障 原 因 。 引 导 词 是 HAZOP 分 析 的 基 础 ， 通 过 其 与 系 统 过 程 的 匹 配 得 到 系 统 偏 差 ，并 作 为 后 续 原 因 和 影 响 分 析 的 输 入 79。 HAZOP方 法 已 有 一 套 标 准 化 应 用 导 则 80，提 供 了 基 本 引 导 词 （ 表 4-4） 和 与 时 间 和 先 后 顺 序 相 关 的 引 导 词 表 （ 表 4-5） 作 为 分析 的 基 础 。 HAZOP主 要 应 用 于 化 工 生 产 领 域 ， 也 有 研 究 将 其 应 用 于 控 制 系 统 8182。表 4-4基 本 引 号 词 及 其 含 义 80引 导 词 含 义无 ， 没 有 完 全 没 有 达 到 设 计 意 图多 ， 过 量 数 量 上 的 增 加 少 ， 减 量 数 量 上 的 减 少伴 随 性 质 上 的 变 化 （ 增 多 ）部 分 性 质 上 的 变 化 （ 减 少 ）相 反 与 设 计 意 图 逻 辑 相 反异 常 完 全 替 代表 4-5 与 时 间 和 先 后 顺 序 相 关 的 引 导 词 及 其 含 义 80引 导 词 含 义早 时 间 上 早 58 晚 时 间 上 晚先 在 顺 序 上 提 前后 在 顺 序 上 推 后4.6.4 系 统 理 论 过 程 分 析 （ STPA）系 统 理 论 过 程 分 析 （ STPA） 由 NancyLeveson于 2011年 提 出 83， 基 本 分 析 流程 如 图 4-5所 示 。 该 方 法 将 安 全 视 为 控 制 问 题 ， 当 控 制 系 统 没 有 充 分 处 理 外 部 干 扰 、部 件 故 障 或 系 统 部 件 之 间 不 正 常 交 互 时 ， 就 会 发 生 危 险 。 STPA的 目 标 是 识 别 出 那 些可 能 导 致 危 险 发 生 的 不 充 分 的 控 制 ， 并 且 确 定 相 关 安 全 性 约 束 使 风 险 降 低 到 可 接 受的 程 度 。 该 方 法 主 要 应 用 于 航 空 航 天 领 域 中 的 自 动 化 系 统 上 ， 多 名 研 究 人 员 对 运 载 火 箭 84、 飞 机 除 冰 系 统 85、 火 /飞 /推 控 制 系 统 86、 逆 推 力 系 统 87、 制 动 系 统 等88进 行 了 STPA分 析 ， 通 过 识 别 系 统 不 安 全 控 制 行 为 ， 分 析 危 险 状 态 及 潜 在 原 因 ，进 而 指 导 系 统 设 计 及 优 化 。 STPA方 法 中 也 可 以 引 入 人 为 因 素 作 为 不 安 控 制 行 为 的 来源 ， 进 而 应 用 于 轨 道 交 通 等 涉 及 人 为 操 作 和 管 理 的 系 统 分 析 中 。 不 同 研 究 应 用 STPA方 法 对 列 车 、 地 铁 控 制 系 统 进 行 了 分 析 ， 通 过 与 运 行 场 景 、 人 为 错 误 、 管 理 因 素 的结 合 ， 系 统 的 分 析 了 运 行 过 程 中 可 能 的 危 险 来 源 并 提 出 了 安 全 约 束 89-91。 随 着 自动 驾 驶 技 术 的 推 进 ， STPA方 法 也 逐 步 应 用 到 自 动 驾 驶 汽 车 ADAS功 能 （ ACC92、LKA93） 以 及 自 动 驾 驶 整 车 94的 安 全 分 析 中 。 图 4-5STPA方 法 分 析 流 程 934.6.5 不 同 安 全 分 析 方 法 对 比表 4-6对 比 分 析 了 各 类 危 害 识 别 方 法 的 适 用 范 围 及 存 在 的 问 题 。 FTA方 法 以 系统 级 故 障 作 为 顶 事 件 ， 通 过 自 上 而 下 的 演 绎 分 析 确 定 系 统 故 障 的 原 因 ； FMEA方 法则 从 组 件 级 具 体 故 障 出 发 ， 通 过 自 下 而 上 的 归 纳 分 析 确 定 系 统 事 故 。 这 两 种 方 法 在自 动 驾 驶 汽 车 的 安 全 分 析 方 面 均 表 现 出 一 定 的 局 限 性 ， 具 体 为 ： 1） 仅 关 注 系 统 故 障 59 导 致 的 安 全 问 题 ， 适 用 于 对 与 外 部 环 境 不 存 在 交 互 的 封 闭 系 统 安 全 性 分 析 ， 在 自 动驾 驶 汽 车 这 类 与 环 境 发 生 复 杂 交 互 的 开 放 系 统 的 应 用 中 需 要 对 方 法 做 一 定 程 度 的 扩展 ； 2） 需 要 具 体 的 系 统 失 效 事 件 或 者 具 体 故 障 类 型 作 为 输 入 ， 而 对 于 目 前 的 自 动 驾驶 无 论 是 运 行 事 故 还 是 系 统 内 部 故 障 均 缺 乏 充 足 的 数 据 支 持 ， 无 法 满 足 基 于 事 故 链的 安 全 分 析 方 法 的 需 求 。 HAZOP方 法 中 ， 专 家 小 组 基 于 引 导 词 系 统 地 辨 识 各 种 潜 在的 偏 离 设 计 目 的 的 偏 差 ， 分 析 各 偏 差 发 生 的 原 因 并 评 估 相 应 的 后 果 。 对 于 自 动 驾 驶这 类 复 杂 的 软 硬 件 集 成 系 统 ， 仅 依 赖 专 家 经 验 和 基 础 引 导 词 的 方 法 难 以 保 证 分 析 结果 的 全 面 性 和 可 靠 性 ， 因 此 在 该 类 系 统 的 分 析 应 用 中 还 需 要 进 一 步 对 引 导 词 进 行 扩充 和 优 化 。 STPA方 法 从 控 制 角 度 识 别 系 统 组 件 间 的 不 正 确 交 互 ， 进 而 识 别 危 害 ， 适用 于 开 放 系 统 ， 在 目 前 研 究 中 是 自 动 驾 驶 汽 车 危 害 识 别 重 点 应 用 的 分 析 方 法 。 然 而 ， STPA现 有 分 析 对 象 多 为 ADAS 系 统 或 功 能 较 为 单 一 的 低 级 别 自 动 驾 驶 汽 车 ， 对 于集 合 多 种 功 能 的 高 等 级 自 动 驾 驶 汽 车 ， 应 用 STPA进 行 危 害 识 别 的 适 用 性 和 有 效 性还 有 待 研 究 。 表 4-6 安 全 分 析 方 法 对 比方 法 分 析 过 程 适 用 系 统 自 动 驾 驶 系 统 上 的应 用 局 限故 障 树 分 析 FTA 基 于 事 故 数 据从 上 而 下 的 演 绎 分 析 封 闭 系 统 不 适 用 于 开 放 系 统缺 乏 事 故 数 据失 效 模 式 及 效 应分 析 FMEA 基 于 故 障 数 据从 下 而 上 的 归 纳 分 析 封 闭 系 统 不 适 用 于 开 放 系 统缺 乏 故 障 数 据 危 险 与 可 操 作 性分 析 HAZOP 基 于 引 导 词系 统 偏 差 分 析 开 放 系 统 缺 乏 适 用 的 引 导 词依 赖 专 家 经 验系 统 理 论 过 程 分析 STPA 基 于 系 统 结 构不 安 全 控 制 行 为 分 析 开 放 系 统 缺 乏 面 向 高 等 级 自动 驾 驶 汽 车 的 应 用实 践参 考 文 献 ：1 Ribeiro M T, Singh S, Guestrin C. Why should I trust you? Explaining the predictions of any classifierC/Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and 60 datamining.2016:1135-1144.2 Erhan D, Bengio Y, Courville A, et al. Visualizing higher-layer features of a deep networkJ. University ofMontreal,2009,1341(3):1.3 Qi Z, Li F. Learning Explainable Embeddings for Deep NetworksC/NIPS Workshop on Interpreting,ExplainingandVisualizingDeepLearning.LongBeach,CA,December.2017,9.4 NgA.SparseautoencoderJ.CS294ALecturenotes,2011,72(2011):1-19.5 Wang H, Yeung D Y. Towards Bayesian deep learning: A framework and some existing methodsJ. IEEETransactionsonKnowledgeandDataEngineering,2016,28(12):3395-3408.6 Kendall A, Gal Y. What uncertainties do we need in bayesian deep learning for computervision?C/Advancesinneuralinformationprocessingsystems.2017:5574-5584.7 McAllister R, Gal Y, Kendall A, et al. Concrete problems for autonomous vehicle safety: Advantages of bayesiandeeplearningC.InternationalJointConferencesonArtificialIntelligence,Inc.,2017.8 Kendall A, Badrinarayanan V, Cipolla R. Bayesian segnet: Model uncertainty in deep convolutionalencoder-decoderarchitecturesforsceneunderstandingJ.arXivpreprintarXiv:1511.02680,2015.9 Gustafsson F K, Danelljan M, Schn T B. Evaluating Scalable Bayesian Deep Learning Methods for RobustComputerVisionJ.arXivpreprintarXiv:1906.01620,2019.10 Hu M, Liao Y, Wang W, et al. Decision tree-based maneuver prediction for driver rear-end risk-avoidancebehaviorsincut-inscenariosJ.Journalofadvancedtransportation,2017.11 Geng X, Liang H, Yu B, et al. A scenario-adaptive driving behavior prediction approach to urbanautonomousdrivingJ.AppliedSciences,2017,7(4):426.12 Hariyono J, Jo K H. Detection of pedestrian crossing road: A study on pedestrian pose recognitionJ.Neurocomputing,2017,234:144-153. 13 Mgelmose A, Trivedi M M, Moeslund T B. Trajectory analysis and prediction for improved pedestriansafety: Integrated framework and evaluationsC/2015 IEEE Intelligent Vehicles Symposium (IV). IEEE,2015:330-335.14 Xue P, Liu J, Chen S, et al. Crossing-Road Pedestrian Trajectory Prediction via Encoder-DecoderLSTMC/2019IEEEIntelligentTransportationSystemsConference(ITSC).IEEE,2019:2027-2033.15 KendallA,GalY.Whatuncertaintiesdoweneedinbayesiandeeplearningforcomputervision?C/Advancesinneuralinformationprocessingsystems.2017:5574-5584.16 Gal Y, Ghahramani Z. Dropout as a bayesian approximation: Representing model uncertainty in deeplearningC/internationalconferenceonmachinelearning.2016:1050-1059.17 Zhu L, Laptev N. Deep and confident prediction for time series at uberC/2017 IEEE InternationalConferenceonDataMiningWorkshops(ICDMW).IEEE,2017:103-110. 18 Bhattacharyya A, Fritz M, Schiele B. Long-term on-board prediction of people in traffic scenes underuncertaintyC/Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2018:4194-4202.19 Kim B D, Kang C M, Kim J, et al. Probabilistic vehicle trajectory prediction over occupancy grid map viarecurrentneural networkC/2017IEEE 20thInternational Conference onIntelligentTransportationSystems(ITSC).IEEE,2017:399-404.20 Hudnell M, PriceT,FrahmJ M. RobustAleatoric Modeling for FutureVehicle LocalizationC/Proceedings 61 oftheIEEEConferenceonComputerVisionandPatternRecognitionWorkshops.2019.21 Deo N, Trivedi M M. Multi-modal trajectory prediction of surrounding vehicles with maneuver basedlstmsC/2018IEEEIntelligentVehiclesSymposium(IV).IEEE,2018:1179-1184.22 Deo N, Trivedi M M. Convolutional social pooling for vehicle trajectory predictionC/Proceedings of theIEEEConferenceonComputerVisionandPatternRecognitionWorkshops.2018:1468-1476.23 Hong J, Sapp B, Philbin J. Rules of the road: Predicting driving behavior with a convolutional model ofsemanticinteractionsC/Proceedingsof theIEEE Conference onComputerVision and Pattern Recognition.2019:8454-8462.24 Ferguson D, Howard T M, Likhachev M. Motion planning in urban environmentsJ. Journal of FieldRobotics,2008,25(11 12):939-960.25 Karaman S,Frazzoli E. Sampling-based algorithmsfor optimal motionplanningJ.The international journal ofroboticsresearch,2011,30(7):846-894.26 Schwarting W, Alonso-Mora J, Pauli L, et al. Parallel autonomy in automated vehicles: Safe motiongeneration with minimal interventionC/2017 IEEE International Conference on Robotics andAutomation(ICRA).IEEE,2017:1928-1935.27 Wang H, Huang Y, Khajepour A, et al. Crash mitigation in motion planning for autonomous vehiclesJ.IEEETransactionsonIntelligentTransportationSystems,2019,20(9):3313-3323.28 Chen Y F, Everett M, Liu M, et al. Socially aware motion planning with deep reinforcementlearningC/2017 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). IEEE,2017:1343-1350.29 Gao Z, Sun T, Xiao H. Decision-making method for vehicle longitudinal automatic driving based onreinforcement Q-learningJ.