返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

云厂商自研ASIC布局

全球四大云服务商正加速自研ASIC芯片,以降低对英伟达GPU的依赖并优化特定场景算力成本。西南证券报告系统梳理了谷歌TPU(已迭代6代,v6算力926 TFLOPS)、亚马逊Trainium/Inferentia(Trainium 2性能+4倍)、微软Maia 100(BF16 800 TFLOPS)、Meta MTIA v2(INT8 354 TFLOPS)四大云厂商的自研芯片布局。博通和Marvell作为定制芯片合作伙伴,提供从IP到量产的全栈能力,2028年市场预计达429亿美元。

谷歌TPU:迭代6代,v6算力达H100的93%

谷歌TPU是云厂商自研ASIC的先驱,已迭代6代产品。TPU v5p单个Pod可达8960颗芯片集群规模,借助Multislice训练技术可实现5万卡线性加速。TPU v6 Trillium预计2024H2推出,FP16/BF16非稀疏算力达926 TFLOPS,约为H100的93%、B100的53%,相比TPU v5e能效高出67%、峰值性能高出3.7倍。

TPU算力集群架构独特。TPU v4采用3D torus(3D环面)架构和OCS光电路交换,每64颗芯片组成4x4x4立方体,4096颗芯片实现互联。每64颗TPUv4和16颗CPU放入一个机架形成模块,每个模块有96个光路连接到OCS,最终实现所需的4096颗芯片互联。

性能对比方面,TPU v4在MLPerf基准测试中比英伟达A100快1.15倍(BERT)和1.67倍(ResNet),平均功耗比A100高1.3-1.9倍。TPU v5e相对性价比(TFLOPS/$)是TPU v4的2.3倍,标价从3.22美元/芯片/小时降至1.2美元/芯片/小时。TPU v5p训练LLM的速度比TPU v4快2.8倍,利用第二代SparseCores训练嵌入密集模型快1.9倍。

亚马逊与微软:Trainium 2节省50%成本,Maia 100比肩H100

亚马逊Trainium 2 FP16/BF16算力430 TFLOPS,HBM容量96GB、带宽4TB/s,性能较第一代提高4倍、能效提高1倍。每个EC2 Trn1实例部署多达16个Trainium加速器,可扩展到10万芯片集群,训练成本节省高达50%。Trainium已针对自然语言处理、计算机视觉和推荐器模型进行优化。

亚马逊Inferentia 2吞吐量较第一代提高4倍,延迟低至1/10,每次推理成本降低高达70%。AWS Neuron SDK与PyTorch和TensorFlow原生集成,客户只要修改少量代码即可实现海量数据训练,降低了训练成本。

微软Maia 100采用台积电5nm和CoWoS-S封装,BF16算力800 TFLOPS(超过A100 28%,是H100的40%),MXFP4格式3200 TFLOPS、Int8 1600 TFLOPS。配备64GB HBM2E(1.8TB/s带宽),12倍400GbE网络带宽,最大功耗700W。每个Ares机架搭载32颗Maia 100,功率达40kW,采用Sidekick液体冷却系统。Maia SDK与PyTorch和ONNX Runtime集成,集成了OpenAI的Triton编程语言。

Meta与特斯拉:MTIA v2聚焦推荐引擎,Dojo训练自动驾驶

Meta MTIA v2采用台积电5nm,INT8稠密算力354 TFLOPS(接近上一代3.5倍)、稀疏算力708 TFLOPS(近7倍),128GB LPDDR5内存(205GB/s带宽)。芯片内部由8x8处理单元网格(PE)组成,PE基于RISC-V内核,片上SRAM 256MB(2.7TB/s带宽)。每个机架系统搭载72颗MTIA芯片。软件堆栈与PyTorch 2.0完全集成,低复杂度模型开箱即用,高复杂度模型在4-6个月内性能提高2倍以上。

特斯拉Dojo于2019年发布,用于训练自动驾驶AI模型。D1芯片采用7nm,FP32性能22 TFLOPS,354个核心。25颗D1组成训练板(15kW,液冷封装),6个训练板组成训练矩阵(BF16/CFP8精度下1 Exaflop算力)。Dojo采用自研TTP通信协议,芯片间带宽900GB/s,支持桥接到标准以太网(TTPoE),降低通信时延。D1芯片热设计功耗400W,单训练板功耗高达15千瓦,采用全自研VRM(52V电压、1000A电流)。

博通与Marvell:ASIC定制芯片的“军火商”

博通目前有3家定制芯片大客户,前2家已进入量产期,第3家预计2025年量产。三家客户已开发多代AI XPU路线图,计划未来三年内在单个结构中部署100万个XPU集群。博通广泛的IP储备覆盖计算、存储、网络IO、封装四大类,在SerDes、AI优化NICs、高端封装、交换机、CPO、内存等IP处于行业领先。XPU平台实现业界最快产品落地(7-9个月联合开发+3个月量产爬坡)。博通2024财年半导体业务收入301亿美元(+6.8%),Non-GAAP净利润237.3亿美元(+29%)。

Marvell目前有3位ASIC客户,A客户AI训练芯片和B客户Arm CPU处于产能爬坡期,C客户AI芯片预计2026年开始产能爬坡。Marvell经过多年收购储备了Cavium(网络加速)、AveraSemi(定制芯片和2.5D/3D封装)、Inphi(模拟、硅光、DSP)等IP。FY2025Q3收入15.2亿美元(+6.9%),增速重新转正。公司预计24-26财年加速AI业务收入从5.5亿提升至25亿美元。
点击阅读报告原文: ASIC行业深度:市场前景、规模预测、云厂商布局及相关公司深度梳理-241223(34页)
相关报告