2021-2022数据中心自动驾驶网络技术分析报告.pdf_报告吧baogao8.com-

资源描述

2021-2022数据中心自动驾驶网络技术分析报告 I 前言云计算技术兴起将企业数据中心推向又一个高速发展阶段。云化数据中心为企业提供按需自助、泛在接入、资源池化、快速弹性以及可度量的标准服务能力。数据中心不再只是一种资源支撑系统，而成为一种新的生产力，改变企业研发、生产和运营模式，并驱动企业业务模式创新，带动产业转型。随着软件定义网络（ Software-definedNetworking， SDN）技术兴起，企业数据中心云化改造快速落地，数据中心网络满足了计算、存储动态发放、弹性扩缩诉求。然而，在企业信息化进程快速推进的同时，企业数据中心 OPEX随着网络规模扩大而逐年增加，网络运营在规划、建设、维护和优化各阶段仍严重依赖于人员经验和技能，结构化矛盾日益凸显。而想要消除数据中心网络全生命周期运维的人工断裂点，原有网络技术已经无能为力。数据中心自动驾驶网络这一新系统体系旨在通过自动化与智能化手段逐步减少和消除人工操作，逐步向自服务、自维护、自优化的无人值守数据中心网络演进。本白皮书介绍数据中心自动驾驶网络的内涵、分级标准、网络架构、尤其是关键技术，包括数字孪生网络、网络引入的 AI 技术、网络仿真与推演、意图管理和回滚、智能搜索技术，并通过测试用例介绍数据中心自动驾驶网络的关键能力。本白皮书旨在吸引更多研究、工程和产业人员参与自动驾驶网络的理论研究、技术攻关和应用落地；通过自动驾驶网络架构实现未来网络变革，推动各行业朝着信息化、数字化、网络化和智能化的方向 II 升级，深化加速企业数字化转型。 III 目录前言 .I一、数据中心网络发展与挑战 .51.1 数据中心网络发展面临新挑战 .51.2 技术创新驱动结构性问题解决 .8二、数据中心自动驾驶网络介绍 .142.1 数据中心自动驾驶网络愿景 .142.2 数据中心自动驾驶网络分级 .152.3 数据中心自动驾驶网络架构 .17三、数据中心自动驾驶网络关键技术剖析 .243.1 数字孪生网络技术 .243.2AI 推荐技术 .30 3.3 仿真平台技术 .323.4 网络变更推演技术 .343.5 意图管理和回滚技术 .363.6 智能搜索技术 .37四、数据中心自动驾驶网络优秀实践 .414.1 测试拓扑 .414.2 测试物料 .414.3 测试结论 .434.4 测试用例列表 .44附录 A：术语与缩略语 .47参考文献 .48 5 一、数据中心网络发展与挑战1.1数据中心网络发展面临新挑战自上世纪 90 年代至今，企业数据中心无论是在技术上还是部署规模上都极速发展，并先后历经数据大集中及资源池化、云计算两个跨越式发展阶段。特别是云计算技术兴起将企业数据中心推向第二个高速发展阶段。云化数据中心为企业提供按需自助、泛在接入、资源池化、快速弹性以及可度量的标准服务能力。数据中心不再只是企业内的一种资源支撑系统，而是成为一种新的生产力，开始改变企业研发、生产和运营模式，并驱动企业业务模式创新，带动产业转型。此时，随着软件定义网络（ Software-defined Networking， SDN）技术兴起，企业数据中心云化改造快速落地，数据中心网络满足了计算、存储动态发放、弹性扩缩诉求。截至 2018 年底，大部分企业数据中心已完成虚拟化向云化改造，进入云数据中心时代。然而，在企业信息化进程快速推进的同时，一方面，企业数据中心随着网络规模扩大而逐年增加，网络运营在规划、建设、维护和优化各阶段仍严重依赖于人员经验和技能，结构化矛盾日益凸显。通过与 TOP 30 金融客户的深入探讨，我们发现数据中心平均每千台设备的运营维护需要约 30名工程师。另一方面，数据中心网络也存在业务体验难以管理的巨大挑战，网络部门收到的用户投诉一半以上与业务体验问题有关。 6 我们与企业客户在数据中心网络领域深入合作，对数据中心网络全生命周期进行研究和分析，识别出如下重大问题：规划阶段：企业数据中心在未来 3年仍处于高速建设期，服务器规模将翻倍增加。网络设计人员需要完成业务需求转化为网络设计、评估应用安全要求、规划网络资源使用等繁琐工作，这消耗了企业中约一半的网络人力，急需通过系统化、自动化手段改变疲于奔命的状态。建设阶段：随着云化业务量大幅上升，一方面，业务上线周期由原来的周级降至天级，压力日趋增大。另一方面，企业关键核心业务对可靠性要求极高。据 Gartner 统计，近 40%网络事故由人为失误导致，如何保障配置发放的正确性至关重要。以某银行网络为例， 2019 年累计变更 14500 余次，而变更工作量巨大，已超出人工处理极限，应接不暇的变更评审使变更成功率不断下降，造成 5 起网络中断事故。同时网络对于客户的实际业务感官较少，仍然停留在网络的具体某些 IP、配置的策略、路由协议上，业务出现问题后，再经过人工转换为具体的网络元素，故障解决处理周期无形中拉长，甚至由于转换信息不明确，导致故障未定位，给客户造成更大影响。维护阶段：当前企业数据中心大多采用 4个 9（ 99.99%）高可用标准，即数据中心全年中断时间应小于 26 分钟；部分核心业务应达到 5 个 9（ 99.999%）标准，即全年中断时间应小于 5 7以网络语言作为主要编排方式以业务意图驱动，网络智能推荐业务正确性人工校验，层层评审智能仿真校验，网络多级回滚保障，分钟。为此，金融行业、运营商及一些大企业均提出 5 分钟故障快速修复的目标。然而，当前企业网络维护智能化改造进程明显慢于业务自动化进程。云化业务弹性发放及 VM 迁移带来网络访问与流量的动态变化，给网络运维增大了难度。传统网络运维依靠告警、事件和日志等信息，无论是状态信息丰富度，还是监测周期（ 10min）都无法满足云化数据中心的运维要求。网络故障在被动应对、依赖人工排查，定位时间不可控。优化阶段：云化数据中心业务变化加快，网络、安全资源使用易存在局部热点，如不及时调度将可能导致业务上线失败问题。另一方面， AI训练、大数据、 HPC 和分布式存储等新兴业务规模上线，应用之间点到多点分发式通信模式增多，导致网络微突发情况加剧和亚健康状态频发，严重影响业务运行效率。当前网络状态评估、业务预测、补丁升级等工作仍严重依赖人工经验，存在滞后性，潜在风险无法及时排除，造成业务体验差。综上所述，数据中心网络全生命周期运营维护存在四大人工断裂点，一旦消除这些人工断裂点，数据中心网络将实现全生命周期高度自治。表 1-1 人工断裂点与高度自动化对比As-Is：人工断裂点 To-Be：高度自动化 8 As-Is：人工断裂点 To-Be：高度自动化业务秒级就绪故障被动响应，多工具辅助，人工恢复时间长故障主动发现，智能定位，自动闭环人工经验巡检，网络优化滞后基于业务体验， AI 持续预测健康度体系，持续优化1.2技术创新驱动结构性问题解决事实上，想要消除数据中心网络全生命周期运维的人工断裂点，原有网络技术已经无能为力，而随着意图抽象、数字孪生、人工智能等重大创新技术的迅猛发展，数据中心网络高度自治才成为可能。意图网络、数字孪生等技术与 AI 结合，可逐步消除数据中心网络运维的人工断裂点，不仅可以代替人工处理大量重复性、复杂性的操作，还可基于海量数据提升网络预测和预防能力，通过数据更懂客户，基于数据驱动差异化的产品服务，使能高度自动化和智能化的数据中心网络运维。（ 1）意图网络业务对网络的意图（简称意图）指以应用为中心，用业务语言描述对特定网络服务及操作的期望。它是意图网络最重要的外部输入。意图网络是 ADN 自动驾驶的抽象层面的直观体现，将过去客户繁琐的网络语言抽象为便于客户直观理解，可度量的业务应用语言，作为输入，由系统去达成客户意愿。 9 数据库服务关系数据库 2 10.10.1.0/24 DB 区支付 /账单查询 /该意图语言描述了客户的一个诉求：客户需要上线账单查询系统，包含 3 个微服务，一个存储，一个用于支付，一个用户查询，对应客户的规划网段对三个服务都有明确要求。基于安全级别需要规划三个安全分区去部署这三个服务，并要求了可靠性，同时定义了三个服务之间的互联通信关系。从而可以描述出客户的业务意图： Name:“ 账单查询系统 ” |SecurityArea： “ web” ， “ APP” ， “ DB” | Service：“ 账单查询服务 ” /“ Web区 ” /20/“ 20.20.1.0/24” ， “ 支付服务 ” / “ APP” /20/“ 20.10.1.0/24” ， “ 数据库服务 ” /“ DB” /2 /“ 10.10.1.0/24” | Communication： “ 账单查询 -数据库 ” ， “ 支付 -数据库 ” ， “ 数据库 -支付，账单查询 ” |externalDomain： “ web” /“ 账单查询服务 ” 。客户描述好意图语言后，系统需要的做的事就意图网络需将业务意图转换为网络可理解、可配置、可度量、可优化的对象及属性。通过对现有网络资源规格、网络 SLA及安全能力等方面的综合评估，实现可靠性最优、资源最优、安全最优的网络设计方案推荐，并提供持续业务网络保障优化能力。例如：某账单查询系统需要上线。它包含 3个微服务，业务对网络的意图描述如下：表 1-2 某账单查询系统上线对网络诉求微服务名称服务类型实例数网段安全分区互联出口账单查询服务 Web服务 20 20.20.1.0/24 WEB区数据库出口支付服务应用服务 20 20.10.1.0/24 APP区数据库 / 10（ 2）数字孪生Gartner 将数字孪生 (Digital Twin)定义为物理对象的数字化表是将业务对网络的意图转换为网络语言：业务需要部署三个服务，分别位于不同的安全分区。系统推荐资源消耗最低，保持业务安全隔离性的组网方案，因此推荐每个安全分区一个 LogicRouter部署一个服务，需要部署三个 LogicRouter，名称为 “ 账单查询服务 ” 、 “ 支付服务 ” 、 “ 数据库服务 ” 。分别为三个 LogicRouter 分配一个 24 位网段子网，需要LogicSwitch模型接入。账单查询系统总体有一个外部出口，位置在 web区，由账单查询服务接入，因此需要为账单查询查询的 logicRouter绑定一个 web 区的外部网关。三个服务有访问诉求，转换为对应三层互访网络诉求，配置互通，系统根据网络情况及安全要求决定互访控制点，如防火墙还是转发设备，是否过多次墙等推荐。根据网络资源与计算业务分布，推荐实例上线位置。网络诉求完成后，系统基于专家样本库推荐最合适的网络方案推荐给客户，客户部署后可设置业务重点保障监控。依托意图网络可实现网络设计简化，降低管理复杂度；屏蔽异构网络设备及多云业务差异。使得管理员无需在网络技术细节上耗费时间，大大缩短业务上线周期。 11 示，包括：物理对象的模型来自物理对象或与其相关的数据与物理对象唯一的一对一对应模型实体监视物理对象的能力 1网络数字孪生是对网络的数字化实时表示，包括状态信息 (故障，事件，异常，业务状态，协议状态等 )，静态信息（设备类型、容量、拓扑、配置等）、动态信息（流量、表项、性能）、关联关系（对象模型、属性关联等）等。它为网络实现设计推荐、故障处理、资源性能优化等智能决策环节提供了一张高精地图。数字孪生的目的是构建一张与实际现网网络一比一的数字化网络，能直接通过用户的眼睛反应到客户脑海中。客户可以通过对该数字化网络的认知，直接反应到实际网络的认知，比如网络故障 (故障点，故障级别，故障原因 )都将在数字化网络中直观呈现，客户可以感知到具体的故障位置，比如什么地方，哪个机房，哪个设备，哪个端口；可感知到故障的具体原因，比如端口光模块接收异常。客户可以感知实际业务的具体情况，比如能通过数字化网络查看到某条业务流的具体路径，包含设备路径，可以叠加查看流量的丢包统计， SLA健康状态等信息。总之，数字化网络使客户利用直接的双眼能直观感知到实际物理设备的运行状态，运行轨迹，之前摸不着的网络能直观呈现出来反应到客户大脑中，这个就是数字孪生技术的基本应用。 12 同时，数字孪生提供的其他丰富功能，孪生实例，数据治理，timeline 历史切片等都帮助了客户更好开展自己的业务和基于数字化网络上做运营。（ 3）人工智能意图网络完成外部对网络的诉求输入，网络数字孪生完成对网络可视化直观感知，而人工智能（ Artificial Intelligence， AI）技术的引入，进一步实现人工断点的消除。目前，广泛使用的人工智能算法有如下几类：强化学习强化学习（ ReinforcementLearning， RL）是不断地重复、不断强化认知的学习过程。在数据中心，大量业务上线和变更导致网络频繁变更。如果通过人工方式变更网络，很难以最优方案部署或得到最佳体验。而通过引入强化学习，根据不同组网方式、不同业务场景和流量大小等多种因素，对变更的参数进行动态选择，则可以实现网络的最佳部署。形式化验证形式化验证（ Formalverification）最早应用于软件验证领域，通过穷举程序的所有输入和所有执行路径来诊断代码的质量和功能。将形式化方法引入到网络配置中，可构建事前仿真、事后验证的能力。在网络变更前，进行配置面验证，保证变更 100%无错误。在配置下发后，定时采集设备的表项进行数据面验证，对网络运行状态 13 提供持续性可靠保障。知识图谱知识图谱（ Knowledge Graph）技术主要包括知识表示与建模、知识获取、知识融合与知识应用四部分。它以结构化形式描述数据实体及其之间的关系，并提供了一种更好地组织、管理和理解海量信息的能力。将网络配置、状态、关键 KPI等信息通过知识图谱方式进行自动化建模，并通过故障与网络事件自动注入持续训练实体间因果关系，可实现故障场景下多 KPI指标异常传播关系的模糊推理，快速识别故障类型与根因。 14 二、数据中心自动驾驶网络介绍2.1数据中心自动驾驶网络愿景凭借多年来在 ICT 领域不断深耕的一线经验，结合众多领域，贯穿融合多方技术，我们总结而成自动驾驶网络（ AutonomousDrivingNetwork,ADN）体系，希望帮助和指导客户的网络团队，建设其自身的数字化网络，为组织持续输出 “ 血液 ” 。该体系涵盖一系列方法论、工具和最佳实践，旨在通过自动化与智能化手段逐步减少和消除人工操作，逐步向自服务、自维护、自优化的无人值守数据中心网络演进，从而帮助企业用户打造一条切实可落地的网络数字化转型路线 2。自服务系统自动抽取业务对网络可靠性、资源、 SLA（ Service LevelAgreement，服务水平协议）等需求；结合资源预测、安全策略推荐、网络模型推荐等关键算法实现网络方案的自动化设计 , 提供免规划、免设计的自服务网络体验。自维护系统通过网络数字孪生、知识图谱等技术实现对网络状态、变化的实时感知；通过持续的网络行为学习与训练，主动识别网络风险与异常；通过根因溯源、模糊推理等技术实现故障根因智能分析；结合故障发生位置、时间、业务影响等因素给出异常修复建议；最终实现 15 2.2数据中心自动驾驶网络分级风险主动规避、故障自动闭环的自维护系统以提升业务连续性与体验。自优化系统通过智能监控、健康度分析预测、仿真验证，业务意图比对等手段，实现网络参数的持续优化。最大限度提升业务运行效率，提升算力，并优化网络资源开销。数据中心网络作为自动驾驶网络的积极践行者，相比园区、城域等网络领域具有架构单一，网络边界清晰，模型抽象完备，自动化、智能化程度高等优势。只要聚焦关键业务场景人工断裂点，充分运用大数据与 AI 技术进行持续联合创新，数据中心网络有望率先实现限定条件下的网络自治，并向高度、完全自动驾驶网络演进。要实现网络完全的自动驾驶，必然是一个长期的过程，不可能一蹴而就。参考汽车自动驾驶五级标准，我们提出自动驾驶网络的标准，从人工和系统的协作关系，将自动驾驶网络定义为五个等级 3：L0 手工操作：所有操作全部通过人工执行，包括配置下发，状态查询均通过命令行完成，这是网络的最初始阶段。L1 工具辅助：针对已知重复性任务，通过工具或脚本批量操作（如批处理工具），辅助用户提高效率，通常是针对一个或多个网元进行。 16图 2-1 从传统网络到自动驾驶网络的跃迁 L2 部分自治网络：核心理念是从网元视角转变为网络视角，例如业界的 Fabric、 VPC等概念。用户从整个网络考虑问题，摆脱对单网元命令行的依赖。大部分用户和厂商都处于这个阶段。L3限定条件自治网络：核心理念是从网络视角转变为业务视角，通过业务意图驱动整个网络的运行。此时，系统从被动执行转变为智能决策，比如推荐网络的最佳方案、提供事前评估、事后自动验收、发现问题后自动定位等。系统具备智能化能力，用户授权后，可实现部分场景的闭环管理。 L4高度自治网络：相比 L3阶段，网络智能化程度更高。系统可以提前预测和分析潜在风险，并主动进行优化调整，保证网络持续满足业务要求。针对突发问题，系统有主动纠偏的能力，作为后续能力。L5 全自治网络：这是数据中心网络发展的终极目标，系统具备在任意场景中跨业务、跨领域的全生命周期的闭环自愈能力，真正实现无人驾驶网络，作为后续能力。 17 2.3数据中心自动驾驶网络架构数据中心自动驾驶网络方案架构主要分为网络基础设施、管控系统、云端训练系统三层 3。图 2-2 数据中心自动驾驶网络方案架构网络基础设施：依托数据中心交换机实现数据中心物理网络采集与配置系统重构，支持 Telemetry 主动上报， Netconf Yang高速配置能力。同时网络设备内嵌 AI芯片，具备智能边缘推理能力，可实现网络 KPI 及流量异常行为分析、网络 KPI 自优化能力。管控系统：依托自动驾驶网络管控析系统，以意图引擎、自动 18图 2-3 数据中心自动驾驶网络管控系统架构化引擎、分析引擎、智能引擎及网络数字孪生底座为核心，面向数据中心网络 “ 规 -建 -维 -优 ” 全生命周期的自动化管理以及智能运维业务全场景，提供意图管理、仿真校验、业务发放、健康度评估等独立、微服务化组件。云端训练系统：集成海量 AI算法库，支持高性能 AI训练能力。基于云端 AI 模型训练引擎、管控系统智能训练 &推理引擎、设备智能边缘推理引擎，可实现三层智能引擎间的模型与推理参数主动优化，持续向高级网络自动驾驶能力演进。其中，数据中心自动驾驶网络管理控制析系统，是集管理、控制和分析一体化的自动化与智能化平台，是数据中心自动驾驶网络的大脑，意图引擎、自动化引擎、分析引擎、智能引擎及数字智能平台实现数据中心网络全生命周期高度自动化和智能运维。 19 （ 1）意图引擎：自动化引擎负责整体数据中心网络的发放，由网络规划、业务发放和仿真校验三部分组成。网络规划：通过编排网络模型构建业务逻辑网络，通过自动化编排消除手动配置，降低网络复杂性并提高自动化水平。业务发放：基于网络模型，完成业务逻辑网络向网络配置的转意图引擎是自动驾驶网络的中枢，是从 L2自动化走向 L3意图驱动的核心标志。基于业务意图，通过网络推荐算法，将业务意图自动转换为网络设计。提供 IP 地址推荐、网络资源位置推荐、安全方案推荐等智能推荐能力，实现一键式业务网络规划，并将业务意图转化为网络监控指标，持续保障网络连接或功能的 SLA。意图引擎由意图管理、意图决策以及工作流三部分组成。意图管理：以业务意图为核心，实现意图的全生命周期自动闭环管理。意图决策：将不同业务场景对网络的诉求进行抽象，结合网络最佳路径、安全最优原则，通过智能推荐算法，实现最优网络设计推荐，并根据业务特点，为业务网络自动创建差异化、针对性的网络保障服务。工作流：基于业务设计器，根据业务需求，实现业务工作流的灵活定义，快速实现网络与企业用户的业务系统对接集成。（ 2）自动化引擎： 20 （ 3）分析引擎：分析引擎建立了一整套故障发现、故障根因与影响智能推理、故障处理维护的统一框架，是数据中心网络运维监控的入口。通过大数据技术构建海量设备数据的采集与分析能力，实时感知设备 KPI、状态以及表项变化，并支持全流采集分析。分析引擎由健康

展开阅读全文