AI服务器架构正成为AEC需求的核心驱动力。不同服务器架构下,AI芯片与AEC的数量配比存在显著差异。AWS Trainium2-Ultra服务器中,64颗芯片采用3D Torus拓扑互联,需配套64条400G AEC,芯片与AEC配比约1:1.5。英伟达GB200 NVL72大机柜同样采用大量铜连接方案实现内部高速互联。随着CSP自研ASIC比例提升,AI服务器铜连接需求持续增长。
AI服务器架构差异决定AEC用量,CSP自研驱动需求增长
AWS Trainium2:64卡机柜需96条AEC,芯片配比1:1.5
AWS Trainium2-Ultra服务器聚合4台16卡服务器,采用4×4×4 3D Torus拓扑架构实现64颗芯片互联。Compute Tray上两颗芯片之间通过PCB连接;同一服务器中Compute Tray之间通过背板连接器+DAC;为沿Z轴形成环面,每颗芯片通过2条AEC与其他服务器中两颗芯片相连,形成3D环绕连接链。Trainium2-Ultra服务器机柜需配套64条400G AEC,芯片与AEC配比1:1。此外,网卡到ToR交换机之间也可采用AEC连接,1颗芯片配套0.5条400G AEC。综合算来,芯片与AEC配比约1:1.5。预计2025年Trainium2出货量150万颗,对应AEC需求约225万条。
英伟达NVL72:铜背板互联开启铜连接新空间
英伟达2024年3月发布Blackwell架构GPU,在GB200 NVL72大机柜中采用大量铜连接方案实现内部高速互联。NVL72机柜内Compute Tray与Switch Tray之间通过背板连接器+DAC互联;两个NVL36机柜间通过NVSwitch tray上的OSFP cage及ACC铜缆实现互联;Compute Tray与ToR交换机之间通过AOC(或光模块+光纤)连接。英伟达的高度集成方案验证了铜连接在AI服务器内部短距互联的可行性,为铜连接市场开辟更大增长空间。
CSP自研ASIC比例提升,组网中AEC用量有望增加
据博通4QFY24业绩会,AI ASIC可服务目标市场空间将从FY24约160亿美元增长至FY27约600亿美元,3年CAGR约55%。CSP厂商自研ASIC方案具备能效比和单位成本算力优势。产业链调研显示,亚马逊、微软、xAI等自建AI算力集群内部组网已开始部署AEC方案,目前400G AEC为主流,预期2025年向800G甚至1.6T迭代。随着CSP自研ASIC比例提升和自行组网比例增加,AEC硬件需求有望持续提升。
表4:AI芯片与AEC配比关系| 架构 | 芯片数量 | AEC数量 | 配比关系 | 互联方式 |
|---|
| Trainium2-Ultra(3D Torus) | 64颗 | 64条(+网卡32条) | 1:1.5 | 400G AEC |
| GB200 NVL72 | 72颗 | 视拓扑而定 | - | 铜背板+DAC+ACC |