Gartner 最新研究显示,到 2026 年底,40% 的企业应用将集成任务特定的 AI Agent。更值得关注的是,2026 年 Gartner CIO 与技术高管调研数据表明,超过 60% 的组织计划在未来两年内落地。
需求端的爆发式增长,正在将算力基础设施推向极限。在华为全联接大会 2026 期间,华为常务董事、ICT BG CEO杨超斌指出,Agentic AI 时代,集群内不同部件之间的互联与通信能力,已经成为影响计算系统性能的关键挑战。为此,华为以灵衢互联为核心,打造出集群与超节点协同的新计算架构,以支持 Agentic AI 时代爆发式增长的计算需求,使能客户、伙伴与开发者应用创新。
华为常务董事、ICT BG CEO杨超斌
互联成瓶颈,Agentic AI 重构计算系统
当模型的参数规模从万亿迈向十万亿,上下文长度从几“K”来到几“M”级,带来的推理算力消耗也将成倍增长,算力投入也将随之飙升。IDC 数据显示,2026 年全球AI基础设施支出将达 4970 亿美元。
然而,算力投入的快速增长,并不意味着算力被有效利用。尤其是在传统计算架构下,随着集群规模的扩大,算力资源的利用率反而下降,其根本性原因在于交互方式上——人与模型的交互频次每小时只有几次,但 Agent 与 AI 模型的交互可以高达数百次。这就意味着,作为AI底层的计算系统,需要同步支持超大模型推理、高频次调用、多种工具使用、多层级信息传递与存储。
最直接的挑战来自于通信墙。 随着模型参数和集群规模的扩大,通信范围极速变大,数据并行域内的通信量与参数量呈近似平方关系,不可掩盖的通信时间占比成倍增加,MFU 快速下降。杨超斌直言:“一个典型 MOE 模型在 10 万卡集群上的 MFU 很有可能不到 20%。”如何打破 MFU 随集群规模快速下降的趋势,成为计算系统面临的首要难题。
此外,还要面临来自多样化算力的挑战。AI 业务负载日益多样驱动算力走向异构,Prefill 与 Decode 呈现出不同的计算特征与访存特征,用不同算力满足算力需求成为必然。此外,面向未来更大模型、更低时延的推理,Decode 中的Attention 与 FFN 由于计算与访存特征的差异,用专用算力来加速可以显著提升效率。随着 Agent 应用普及,CPU 与 NPU 的配比关系也在发生变化。这就要求计算系统需要异构算力协同、内存资源池化,实现动态、高效调整。
在存储层面, 随着上下文持续变长,无论是训练还是推理,层次化的多级缓存架构——包括HBM、DDR、SSD 分层分级已成为必然选择。然而,现有 PCIE+RoCE 网络难以满足缓存所需要的时延与带宽需求,未来 PB 级的 KV Cache 需要更大的带宽、更低的时延来匹配。
杨超斌在演讲中明确判断:“Agentic AI 时代,集群内不同部件之间的互联与通信能力,已经成为计算系统性能的关键。”这一判断指向了三个明确的能力要求:需要超强的互联能力,支持异构算力高效协同和扩容;需要打破物理极限,实现算力、内存等资源池化;需要超大的带宽和更低的时延,保障计算系统的通信效率。
在笔者看来,华为此次所揭示的不仅是技术指标的挑战,更是计算架构范式的根本性转折。当互联与通信从“配套能力”跃升为“核心瓶颈”,传统的以 CPU 为中心、以服务器为边界的主从架构已经难以为继。打破这一困局,需要的不是单点优化,而是从协议、互联、存储到算力调度的系统性重构。这也正是华为以灵衢互联为核心打造集群与超节点协同新计算架构的主要原因。
以灵衢互联为核心,打造系统级创新架构
面对 Agentic AI 时代带来的挑战,华为有着清晰的解题思路:以灵衢互联为核心,打造集群与超节点协同的新计算架构。这一新计算架构的核心载体,是华为自主创新的灵衢互联协议。
传统计算系统采用主从架构,跨节点数据访问依赖 RDMA 协议,数据需反复打包、拆包并经历协议转换,一次跨服务器访问涉及五次数据拷贝,通信开销巨大。华为将 CPU、NPU、内存、存储、网卡等核心组件全部基于灵衢协议互联,实现了十余种协议的归一,互联带宽从百 GB 级提升至 TB 级,RTT 通信时延从 7 微秒压缩至 2 微秒,降幅达 70%。
基于灵衢的计算系统具备四大特征:
其一,协议归一,内存语义。 超节点内一套灵衢协议互联不同子系统,支持全局内存统一编址,所有计算与存储单元之间都可以通过 load/store 内存指令直接访问,极大提升了数据访问和搬运效率。
其二,多样算力,异构协同。 CPU、NPU、内存、SSD 等通过灵衢直接对等互联,实现去中心化的平等访问,CPU 和 NPU 资源可灵活配比。通过分层分级 Transformer 硬加速,解耦 Attention 与FFN,实现 AF 分离部署,让不同计算特征的负载匹配最合适的算力单元。
其三,分级存储,全局池化。 以混合介质资源池化解决激活值缓存问题,将 DDR 作为 NPU 的“第二内存”,NPU 可通过灵衢协议直接读取 DDR 而无需经过 CPU ,降低时延。这一创新让 10T 大模型训练不再被单卡 HBM 容量所束缚,在不增加单卡 HBM 配置的情况下,训练 MFU 可提升 5%。
其四,光电互联,灵活组网。 构建全局超高带宽、超低时延的“数据高速公路”,实现大小算力的灵活扩展。
四大特征相互协同,最终指向一个关键指标——MFU 的跃升。杨超斌指出,灵衢统一协议和统一资源池化消除了计算系统内的通信瓶颈,将整个系统的通信时延下降 70% 以上,再配合通算融合、多维并行优化等技术,可实现十万卡集群 MFU从 20% 提升到 35% 。
杨超斌表示,华为将坚持系统级创新,构筑系列化算力底座。这也充分说明在算力成为智能化变革核心基石的当下,系统级创新比单点突破更具战略价值。
从超节点到百万卡集群,分层分级夯实算力底座
我们知道,架构创新的价值,最终要落到可部署、可扩展的产品体系上。为此,华为发布了覆盖柜内、跨柜与集群三级互联的分层级灵衢互联设备,并支持从单柜到百万卡集群的弹性扩展。
在柜内互联层面,灵衢互联刀片实现了零电缆、零电路损耗,一个4096超节点可节省196公里铜缆。在跨柜互联层面,灵衢交换设备支持176个端口,每端口达1.6T,单机280T全光互联,是业界互联带宽最大、端口数最多的高速总线协议互联设备,RTT时延低至2微秒。在集群互联层面,UBG灵衢网络交换机具备高达1024的超大Radix扇出能力,可支撑百万卡超节点集群,满足模型参数向几十万亿演进的需求。
以此为基础,华为发布了基于灵衢的Agentic AI超节点集群,由鲲鹏950超节点、昇腾960超节点、OceanStor M900记忆存储及星河UBG交换机组成,实现多样算力协同与分级资源池化。
鲲鹏950超节点单柜可提供12288个CPU核、支持192TB内存,通过灵衢构建的超节点可实现超过150万核的统一调度和24000TB内存的全局池化;昇腾960超节点计算刀片支持8颗NPU,提供32PFLOPS FP4算力、4.5TB统一内存及17.9TB/s的灵衢互联带宽;OceanStor M900记忆存储节点通过“三芯合一”架构,单节点具备480GB/s访问带宽,为AI业务提供高速存储底座。三类硬件基于灵衢协议灵活配置,实现联动协同与全局访问。
除此之外,灵衢互联技术同样向轻量化场景延伸。华为基于灵衢架构打造了从1卡到8卡的系列化一体机及鲲鹏昇腾模组。其中,Atlas 650E风冷服务器通过双机灵衢直连,实现16个NPU免交换互联,两台机器像一台运行,支持平滑扩容形成小型超节点,让中小企业也能本地运行万亿参数大模型。
不难发现,从柜内互联到百万卡集群,从超节点到一体机,灵衢以分层分级的架构能力,让算力既能支撑十万卡级超大模型训练,也能下沉至中小企业本地部署,真正实现大小算力灵活扩展、异构资源高效协同,为Agentic AI时代提供可演进、可负担的算力底座。
开源开放,共建Agentic AI时代生态底座
算力底座的竞争力,不仅在于硬件性能,更在于生态的厚度与活力。
为此,在开源框架层面,昇腾与DeepSeek Harness、OpenCode、openJiuwen等协同,打造智能管理、推理加速、安全框架等Agent插件化组件并全量开源,伙伴可按需选择、灵活组装,快速完成行业Agent开发与IT系统对接。
在行业算子库层面,华为已联合50多家客户、伙伴及高校打造26个行业专属算子库。以电力行业为例,南方电网联合伙伴和高校在社区中构建了电力仿真求解、电力负荷预测、电力装备巡检等专属开源算子库,让AI真正落地到电力生产一线。科大讯飞则基于昇腾打造了覆盖智能客服、办公通用方案及金融、教育、医疗等行业场景化方案。
在社区共建层面,昇腾已与90多家主流开源社区开展深度合作,全面覆盖算子编程、基础库搭建、模型训练微调、推理部署、强化学习等全链路场景。自去年8月宣布开源以来,CANN社区已跃升为中国开源项目活跃度第一,社区月活开发者达5200多人,累计合入超428万行代码。
杨超斌强调,在Agentic AI时代,算力底座的竞争不是单一产品的竞争,而是“架构创新+生态开放”的系统性竞争。可以说,华为选择的路径,是以灵衢互联为技术锚点,以开源开放为生态策略,联合产业各方共同筑牢智能时代的算力基石,让算力真正成为各行业智能化变革的基石。
写在最后:系统级创新构筑Agentic AI的算力底座
面对Agentic AI时代的通信墙、算力异构与存储分级挑战,华为以灵衢互联为核心,走出了一条系统级创新的破局之路。同时,华为以开源开放联结50多家伙伴、90多家社区,构建起行业算子库与Agent插件化组件,让生态成为算力底座的另一重竞争力。
笔者认为,在Agentic AI重塑计算范式的当下,华为灵衢互联不仅是一项技术突破,更是一种产业路径的宣言:以架构创新打破物理极限,以生态开放汇聚产业合力,为智能时代筑牢算力基石。