AI算力竞赛正从“买GPU”走向“造ASIC”。谷歌TPU已迭代至第六代,亚马逊Trainium/Inferentia双线并进,微软Maia 100对标H100,Meta MTIA v2算力提升近7倍——北美四大CSP正在将自研AI芯片从“实验项目”升级为“战略核心”。西南证券深度报告详细拆解四大CSP的ASIC产品路线图、性能参数和部署规模,指出自研ASIC已成为CSP降低AI算力成本、优化内部工作负载、构建差异化竞争优势的关键路径。2025-2026年将是CSP自研ASIC全面量产的密集窗口期。
谷歌TPU:六代演进,5万卡线性加速
谷歌TPU是CSP自研ASIC的先行者,截至2024年已迭代6代产品。TPU v5p单个Pod可达8960颗芯片集群规模,借助Multislice训练技术可实现5万卡线性加速——这意味着大模型训练可以在数万颗TPU上实现近线性的性能扩展。
最新一代TPU v6 Trillium预计2024年下半年推出,FP16/BF16精度非稀疏算力达926 TFLOPS,约为英伟达H100的93%、B100的53%。相比TPU v5e,TPU v6能效高出67%,峰值性能高出3.7倍。在MLPerf基准测试中,TPU v4在BERT上比A100快1.15倍,在ResNet上快1.67倍,而A100平均功耗比TPU v4高1.3-1.9倍——性能和功耗的双重优势验证了ASIC在推理场景中的价值。
TPU v5e的相对性价比(TFLOPS/$)是TPU v4的2.3倍,v5p训练LLM的速度比v4快2.8倍。谷歌通过TPU的持续迭代,不断降低单位算力成本,构建了从芯片到集群到软件的全栈AI基础设施。
亚马逊:Trainium+Inferentia双线并进,训练成本降50%
亚马逊在AI芯片领域采取“训练+推理”双产品线策略。Trainium系列针对深度学习训练,Inferentia系列针对AI推理。
Trainium 2提供430 TFLOPS的FP16/BF16算力,HBM容量96GB、带宽4TB/s,相比第一代性能提高4倍、能效提高2倍。每个EC2 Trn1实例部署多达16个Trainium加速器,未来可扩展至10万芯片集群。基于Trainium的实例与同类实例相比可节省高达50%的训练成本,已针对自然语言处理、计算机视觉和推荐器模型进行优化。
Inferentia 2加速器吞吐量比第一代提高4倍,延迟低至上一代的1/10。支持190 TFLOPS的FP16性能,配置32GB HBM,内存带宽增加10倍。AWS Neuron SDK与PyTorch和TensorFlow原生集成,客户只要修改少量代码即可从GPU迁移到Trainium,降低训练成本的同时保持开发效率。
微软Maia 100与Meta MTIA v2:后来者的“弯道超车”
微软Maia 100采用台积电5nm制程和CoWoS-S封装,配备64GB HBM2E(带宽1.8TB/s),设计最大功耗700W TDP。BF16下算力800 TFLOPS,超过英伟达A100 28%,约为H100的40%。搭载32颗Maia 100的Ares机架功率可达40kW,配备Sidekick液体冷却系统。Maia SDK与PyTorch和ONNX Runtime集成,支持OpenAI的Triton编程语言,赋予开发者完全的可移植性和灵活性。
Meta MTIA v2采用台积电5nm制程,INT8稠密算力354 TFLOPS(接近上一代的3.5倍),稀疏算力708 TFLOPS(达到上一代的近7倍)。芯片内部8×8处理单元网格基于RISC-V内核,片内SRAM 256MB(带宽2.7TB/s),每个机架系统搭载72颗MTIA芯片。MTIA v2软件堆栈与PyTorch 2.0完全集成,已部署在16个数据中心,用于增强Meta的排名和广告推荐引擎——这是AI推理在推荐系统中大规模落地的典型案例。
表:北美四大CSP自研ASIC产品关键参数对比| 厂商 | 产品 | 制程 | BF16算力(TFLOPS) | 内存 | 应用场景 |
|---|
| 谷歌 | TPU v6 Trillium | 5nm | 926 | 96GB HBM | 训练+推理 |
| 亚马逊 | Trainium 2 | 5nm | 430 | 96GB HBM | 训练 |
| 微软 | Maia 100 | 5nm | 800 | 64GB HBM2E | 训练+推理 |
| Meta | MTIA v2 | 5nm | 177(稠密INT8) | 128GB LPDDR5 | 推理(推荐系统) |
CSP自研ASIC的共同路径:从软件到硬件的全栈掌控
四大CSP自研ASIC的路径惊人一致——从软件定义硬件,实现全栈优化。谷歌的TPU与TensorFlow/PyTorch深度集成,亚马逊Neuron SDK支持迁移学习,微软Maia SDK与Triton编程语言兼容,Meta MTIA v2软件堆栈与PyTorch 2.0完全集成。
ASIC的软件生态正在从“封闭”走向“开放”。第三方芯片厂商推出开源平台,Triton等编程语言抽象底层硬件细节,开发者可用PyTorch等熟悉的框架在ASIC上高效运行模型。随着软件生态的成熟和CSP自研ASIC的量产放量,ASIC将在AI推理场景中扮演越来越重要的角色,与GPU形成“训练用GPU、推理用ASIC”的分工格局。