返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

Scale-Up互联趋势

国海证券指出,Scale-Up旨在无缝连接多个GPU到统一计算系统中,作为一个庞大的GPU运行。英伟达NVLink6通过双向SerDes实现每通道448G带宽,AMD Infinity Fabric在MI300A中实现小芯片级延迟,AWS Trainium3采用PCIe交换架构实现全对全连接,UALink定义开放Scale-Up标准支持1024加速器。Scale-Up正成为AI超节点的核心竞争力。

Scale-Up互联的核心要求——低延迟+高带宽+原生内存语义

Scale-Up是一种先进的互连架构,旨在无缝连接多个GPU到统一计算系统中,作为一个庞大的GPU运行。对于大规模AI部署至关重要,因为需要GPU间共享内存访问和协作处理。理想的Scale-Up应具备低延迟(确保GPU间快速通信)、高带宽(处理AI工作负载巨大数据吞吐量)和原生内存语义(确保互联GPU间无缝共享数据)。集成网络内计算能力还可通过offloading特定操作于网络本身进一步提升效率。Scale-Out将数据中心内的服务器连接起来(可覆盖数千至数十万GPU),Scale-Up使域内GPU作为单一计算引擎运行,大多数对延迟敏感的通信模式主要在Scale-Up中。

英伟达——NVLink6双向SerDes使带宽翻倍

Vera Rubin使用的NVLink6通过实现双向信令,在相同数量铜缆上实现NVLink5带宽的两倍,每个NVLink可实现4条200G通道。NVLink5每个电气通道提供224G带宽,NVLink6每个电气通道提供448G。每个电气通道是差分对(DP),由两根承载相同幅度但极性相反的信号的导线组成。GB300 NVL72显示72个GPU对应18颗NVLink Switch Chips,实现130TB/s all-to-all互联带宽。Kyber机架每块Rubin Ultra逻辑GPU提供14.4Tbit/s单-DI扩展带宽,连接144块GPU需72颗NVLink 7交换芯片,每颗以28.8Tbit/s总带宽运行。英伟达路线图显示,Feynman NVL1152或引入CPO,黄仁勋表示“全为CPO”。

各厂商Scale-Up技术路线对比

| 厂商/标准 | 互联技术 | 带宽 | 特点 |

|

|

|

|

|

| 英伟达 | NVLink6/7 | 448G/通道(NVLink6) | 双向SerDes,铜背板为主 |

| AMD | Infinity Fabric/XGMI | 封装内小芯片级延迟 | MI300A中XCD直接连接HBM3 |

| 华为 | UB总线协议 | 超高带宽 | CloudMatrix架构,TP/EP可扩展 |

| AWS | NeuronLink(PCIe底座) | 256-320GB/s | PCIe Gen6 x8,三层交换架构 |

| UALink | UALink 2.0 | — | 开放标准,支持1024加速器 |

来源:各公司官网、SemiAnalysis、国海证券研究所

AMD——Infinity Fabric实现封装内小芯片级互联

AMD Instinct MI300系列利用新型3D封装技术,重新划分异构封装中处理器的计算、内存和通信元素。集成多达8个垂直堆叠的XCD和4个IOD,通过AMD Infinity Fabric连接,连接到8个HBM堆栈。MI300A APU中,封装内Infinity Fabric将XCD和CPU CCD直接连接到共享Infinity Cache和8层HBM3,实现小芯片级延迟和接口吞吐量。XGMI作为inter-socket接口维持双向通信通道,连接多个硅片实例之间的相干结构,实现无缝数据传输。

AWS——Trainium3采用PCIe交换式NeuronLink架构

AWS Tm3实例由Trainium3 AI芯片驱动,采用NeuronSwitch-v1互连技术实现芯片间全对全连接,针对MoE和自回归推理服务优化。服务器内部:每台服务器含4个Trainium3芯片,通过服务器内PCIe交换机连接,每芯片提供四条PCIe Gen6 x8链路,双向带宽256GB/s。机架内服务器间:每芯片提供五条PCIe Gen6 x8链路,双向带宽320GB/s。机架间:每芯片提供两条PCIe Gen6 x8直连链路,双向带宽128GB/s。AWS采用基于PCIe交换机的交换结构,取代前代点对点NeuronLink拓扑,实现UltraServer域内灵活全对全连接,体现PCIe作为I/O底座在Scale-Up中的扩展能力。

投资逻辑——Scale-Up决定AI超节点核心竞争力

Scale-Up互联性能直接影响AI训练和推理的效率和可扩展性。英伟达通过NVLink持续保持领先,AMD Infinity Fabric在封装内集成优势明显,华为UB总线构建CloudMatrix架构,AWS NeuronLink展示PCIe底座扩展能力,UALink开放标准有望推动Scale-Up生态多元化。AI超节点规模持续扩大(从NVL72到NVL144再到NVL1152),Scale-Up互联芯片需求持续增长。重点关注英伟达(NVLink生态)、AMD(Infinity Fabric)、华为(UB总线)产业链及相关互联芯片供应商。
点击阅读报告原文: 计算机行业深度报告:高速互联协议与硬件从“配套件”到“第二算力”——AI算力“卖水人”专题系列(10)-260729(58页)
相关报告