申万宏源报告对AI ASIC芯片趋势进行了深度分析。ASIC(专用集成电路)通过自上而下的定制化架构设计匹配特定算法,在特定任务中具备明确性价比优势。谷歌TPU已验证能力,亚马逊Trainium2进入大规模爬坡,META MTIA v2已用于推理。ASIC开发周期通常3-4年,2026年将进入密集落地期。测算显示Trainium2集群训练LLama3 405B模型年化成本约828万美元,仅为H100集群(7085万美元)的1/8。ASIC芯片正从“补充”走向“主力”,改变AI算力市场格局。
GPU vs ASIC:架构、生态与成本三维对比
GPU与ASIC在架构及开发生态上存在明确差异。GPU为自下而上设计,即基于已设计的硬件平台作工具丰富、生态适配工作支持上层应用,英伟达CUDA生态成熟完善。ASIC则为自上而下,基于现有应用/工作负载进行芯片架构设计,通过定制化架构匹配算法提升计算效能,但牺牲通用性。
架构差异:GPU基于通用并行计算转向AI,内部设计为大量并行计算核+小型AI加速单元TensorCore;TPU等为仅针对AI算力需求场景直接设计内部架构,代表架构为大型脉动阵列(如谷歌TPU的128×128 MXU单元)。脉动阵列专为矩阵计算设计,计算结果直接向下一个计算单元递推,减少全局数据交换,降低存储消耗。
开发生态差异:英伟达CUDA生态完整成熟;谷歌TPU和AWS Trainium2均基于XLA编译器构建生态;META MTIA v2基于Triton编程语言(OpenAI开源),Pytorch正推广Triton,已在英伟达GPU上实现无CUDA条件下的较高硬件效率。
成本差异显著。测算各家芯片成本:H100约2500美元(售价18000美元)、B200约4800美元(售价33000美元)、TPU v5p约1800美元、Trainium2约2150美元。ASIC制造成本显著低于同代GPU。
主流GPU与ASIC芯片对比| 芯片 | 推出时间 | 制程 | BF16峰值(TFlops) | 存储 | 开发生态 | 架构特点 |
|---|
| NVIDIA H100 | 2022 | 4nm | 990 | HBM3 80GB | CUDA | 并行CUDA核+TensorCore |
| NVIDIA B200 | 2024 | 4nm | 2250 | HBM3e 192GB | CUDA | 并行CUDA核+TensorCore |
| Google TPU v5p | 2023 | 5nm | 459 | HBM2e 96GB | XLA | 脉动阵列MXU |
| AWS Trainium 2 | 2024 | 5nm | 2643 | HBM3 96GB | XLA | 脉动阵列NeuronCore |
| META MTIA v2 | 2024 | 5nm | 1177 | LPDDR5 128GB | Triton | 多核CPU+AI加速 |
ASIC性价比:训练场景成本仅为GPU的1/8
报告对LLama3 405B模型训练场景(24000卡集群)进行了成本测算。在FP16算力总量18000 ZFLOPs、算力利用率40%的假设下:
H100集群年化算力硬件折旧+能源成本约7085万美元,B200集群约7553万美元,GB200 Superchip集群约5753万美元。而Trainium 2集群年化成本仅约828万美元,为H100集群的约1/8。TPU v5p集群年化成本约340万美元(但需注意TPU v5p单卡算力较低,需更多卡数)。
ASIC成本优势主要来自:1)芯片制造成本显著低于GPU(Trainium2约2150美元 vs H100约2500美元,且ASIC无需搭配高价CPU);2)ASIC针对特定工作负载优化,可实现更高的计算强度(FP16峰值性能/存储比值更高)。ASIC在特定任务部署中实际具备明确性价比,但受限于开发生态,场景目前主要集中于云厂内部负载。
ASIC落地路线图:2026年密集投产
ASIC开发周期通常为3-4年,2026年将进入密集落地期:
亚马逊:Trainium2已进入大规模爬坡投产阶段,Rainier项目正为Anthropic构建数十万卡Trainium2集群。Trainium3预计25Q4预览,采用3nm制程。
谷歌:TPU v5p已上线,TPU v6e(Trillium)已上线谷歌云,采用4nm制程,性能持续提升。
META:MTIA v2已用于推理负载(推荐系统等),预计25H2推出新一代推理卡,26年将推出训练卡。
微软:Maia 100已上线,采用5nm制程,主要用于Azure内部推理负载。
OpenAI:据路透社报道,ASIC芯片有望在2025年流片测试,并计划在2026年爬坡。
此外,包括ARM在内的多家公司已开启ASIC项目。博通在FY25Q1财报中披露,除目前三大现有客户外,AI ASIC业务已有四个新合作伙伴,预计包括OpenAI、Arm等潜在用户。
ASIC趋势驱动力:牧本摆动与技术分工
ASIC增长趋势由供需两端共同驱动。供给端:芯片设计制造分工化(Fabless+Foundry模式)以及ASIC辅助设计(博通、Marvell)的成熟,大幅降低了ASIC与GPU在代工制造、后端封装设计上的差距。差异集中在前端设计和软件开发生态。
需求端:1)技术/架构演进:牧本摆动(Makimoto's Wave)本质为针对通用芯片的算法演进迭代陷入停滞后,需要在架构上进行创新,催生新的定制化芯片,并再度基于新芯片进行算法创新。当前正处于从通用GPU向定制化ASIC演进的重要节点。2)商业化驱动:算力需求量级提升,具备庞大算力需求的云厂足以覆盖开发定制化芯片的成本。
制造模式上,云厂仅维持相对精简的IC设计团队(前端设计),IC辅助设计厂商(博通、Marvell等)提供IP核、后端设计、封装测试等支持,最终向云厂交付。ASIC芯片正从“补充”走向“主力”,将成为AI算力市场的重要增量。