返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

AI后端网络交换机需求

AI大模型的军备竞赛正在重塑数据中心的网络架构。与传统服务器组网不同,AI服务器新增了GPU模组间的后端网络互联需求。2023年AI/ML部署使RDMA市场激增至60亿美元以上,预计2028年突破220亿美元。IB网络仍主导AI后端,但以太网根基深厚、生态开放,AWS、Meta等头部云厂商已在万卡集群中验证了RoCE网络的可行性。以太网在RDMA中的份额有望持续提升,2027年或将成为主流方案。

AI新增后端组网——从0到1的增量需求

传统数据中心网络面向业务场景,主要连接服务器与存储,数据南北向流动。而AI智算中心面向任务场景,GPU集群间需要频繁的参数同步,数据以东西向流量为主。AI服务器比传统服务器多了GPU模组——以8卡SXM GPU模组为例,对应8个高速网络端口,分别上联8台Leaf交换机。这种架构上的根本变化,使AI服务器组网相比传统服务器增加了后端网络需求,每台AI服务器的网络端口数量大幅提升。

从组网架构看,胖树(Fat-Tree)拓扑是AI集群的主流方案。下联和上联带宽采用1:1无收敛设计,即32个800G下联端口对应32个800G上联端口。以DGX B200搭配64端口400G交换机为例,31台服务器(248个GPU)组成1个节点,对应12台计算网络交换机。随着集群规模从千卡向万卡、十万卡拓展,组网层数从2层向3层、4层演进,交换机需求呈指数级增长。

RDMA技术——IB与以太网的两强格局

RDMA(远程直接内存访问)是AI集群网络的核心技术,可绕过操作系统内核实现服务器间直接内存访问,时延比传统TCP/IP改善数十倍。RDMA包含IB、RoCE和iWARP三种实现方式,当前主流是IB和RoCEv2。

IB网络是RDMA的鼻祖(1999年IBTA提出),从硬件层面保证数据无损,基于credit信令机制确保不丢包。但IB生态单一封闭,以英伟达为主,交换机成本远高于以太网。RoCEv2将RDMA技术应用到传统以太网,依靠PFC、ECN等协议实现无损网络,生态开放、厂商众多,组网性价比显著。

性能上IB端到端时延更低,但RoCEv2已足以满足绝大多数AI训练场景需求。组网规模上IB可支持万卡集群,RoCEv2在千卡规模表现良好且持续优化中。成本和生态上RoCE优势明显——这是以太网份额有望持续提升的根本原因。

以太网生态崛起——超以太网联盟与国内GSE/ETH+协议

超以太网联盟(UEC)2023年成立,旨在创建一个适用于AI/HPC场景的完整以太网通信堆栈架构,成员涵盖AMD、Arista、博通、思科、华为、新华三、锐捷网络、Meta、微软、BAT等。UEC的目标是优化以太网以实现高性能AI网络,最大限度地保持以太网互操作性。

国内方面,中国移动主导GSE(全调度以太网)推进计划,已有中国移动、中国联通、腾讯、华为、中兴、锐捷、新华三、盛科通信等加入,GSE1.0已在中国移动智算中心(哈尔滨)超万卡集群实现商用。阿里云联合中科院、平头哥、盛科通信、腾讯、字节等发布ETH+协议1.0,实现有效载荷比74%提升、集合通信性能提升30%以上。多方合力下,以太网在AI后端网络的竞争力持续增强。
RDMA市场规模与交换机需求(亿美元)
年份RDMA总市场交换机占比以太网占比
2021年前4-7(HPC驱动)~50%较低
2023年60+~60%提升中
2028E220+~60%有望超50%
点击阅读报告原文: 通信设备行业深度报告:AI时代交换机迎四大产业变革新机遇-241209(47页)
相关报告