AI算力需求正从训练端向推理端延伸,ASIC芯片作为推理场景的最优解正迎来历史性机遇。西南证券报告指出,2023年定制芯片仅占数据中心加速计算芯片的16%(约66亿美元),预计2028年占比提升至25%,市场规模达429亿美元,CAGR达45%。北美四大云厂商资本支出2024年前三季度同比大增56%,推理集群的百万级部署需求为ASIC提供确定性增长空间。
市场规模预测:2028年429亿美元,CAGR 45%
ASIC市场正处于高速增长的起点。据Marvell预测,2028年数据中心定制加速计算芯片市场规模将达429亿美元,2023-2028年CAGR达45%,远超通用加速计算芯片的32%(同期从约500亿增至1716亿美元)。定制芯片在数据中心加速计算芯片中的占比将从2023年的16%提升至2028年的25%。
博通FY2024定制芯片收入预计70亿美元左右,Marvell FY2024可能仅有个位数亿美元。当前定制芯片仍处于发展初期,云厂商为了降低成本、增强供应链保障,会持续迭代ASIC并增大特定场景部署规模。
从TAM结构看,Marvell预测2023-2028年数据中心业务总TAM从210亿美元增长至750亿美元(CAGR 29%)。其中定制化加速计算TAM增速最快(45%),互联TAM从43亿增至139亿(CAGR 27%),交换机TAM从61亿增至120亿(CAGR 15%),存储市场从42亿增至59亿(CAGR 7%)。Marvell数据中心业务2023年市占率10%,长期目标20%(对应150亿美元规模,23-28年CAGR 46.6%)。
核心驱动力:云厂商Capex扩张与推理集群需求
北美云厂商资本支出持续高增是ASIC市场增长的直接驱动力。2024年前三季度,北美四大云服务商Capex达1708亿美元,同比增长56%。微软530亿美元(+78.5%)、亚马逊551.7亿美元(+44.6%)、谷歌382.6亿美元(+79%)、Meta243.9亿美元(+20.7%)。资本支出大幅提升背后是AI赛道竞赛、算力稀缺、AI云赋能和生态拓展等多方面驱动。
训练与推理集群对加速计算芯片的需求差异决定了ASIC的增长路径。训练阶段对加速计算芯片的需求已提升到万卡级别,未来10万卡级别可期。推理阶段单个集群需求低于训练集群,但部署数量远多于训练集群,预计达到百万级别。AI算力集群特别是推理集群对加速计算芯片的庞大需求,是ASIC快速成长的核心驱动力。
ASIC可满足云厂商核心需求:1)内部工作负载的架构优化;2)更低的功耗和成本;3)为AI工作负载定制的内存和I/O架构。北美云厂商在AI领域的资本开支近两年有望保持高速增长,是英伟达的重要客户,谷歌、微软、亚马逊、Meta和甲骨文五家云厂商预计贡献FY2025英伟达GPU六成以上收入(接近500亿美元),强劲的自研动机推动ASIC市场扩容。
ASIC与GPU的竞争格局:推理占优、训练追赶
ASIC更适用于推理场景。推理阶段模型已训练完成,对计算精度要求相对较低,但对计算速度、能效和成本要求较高。ASIC高度定制化设计能针对推理任务优化,以较低功耗实现快速推理计算,在大规模部署场景下成本优势明显。GPU更适用于训练场景,其众多计算核心和高带宽内存能同时处理大量数据样本和复杂计算任务,灵活性更适合频繁调试和迭代。
ASIC在硬件性能上针对特定算法和应用优化设计,具有较高能效比;GPU在通用计算和图形处理方面表现出色,但在特定任务上效率可能不如ASIC。ASIC在绝对算力和片间互联方面普遍低于AI GPU,但服务器间互联采用以太网为主,具有通用性强、生态开放、低成本等优势。
从全局来看,ASIC放量与对应的算力降本,是大模型走向更大产业的必经之路。AI芯片将经历多轮螺旋上升式发展——新模型通过通用GPU被发现和初步开发,通过专用ASIC将需求繁荣,繁荣的生态吸引更多用户,最终培育出新的更强的算法,循环往复,最终达成AGI目标。
ASIC降本路径:单位算力成本更低,生态逐步成熟
ASIC单位算力成本优势显著。谷歌TPU v5、亚马逊Trainium 2的单位算力成本分别为英伟达H100的70%、60%。ASIC因其硬件结构为特定任务定制,减少了很多针对通用加速计算的不必要硬件设计。
软件生态正逐步成熟。云厂商普遍具备较强研发能力,为ASIC研发了配套的全栈软件生态。谷歌TPU、AWS Neuron、微软Maia SDK均与PyTorch等主流框架深度集成。博通、Marvell等第三方厂商提供从IP、设计到封装的完整定制平台。博通在SerDes、AI优化NICs、高端封装、交换机、CPO、内存等IP处于行业领先水平,投入30亿美元研发费用,实现业界最快的ASIC产品落地时间(7-9个月联合开发+3个月量产爬坡)。
ASIC放量将带动产业链多环节受益。晶圆代工厂(台积电等)议价能力和产业链地位提升;散热供应商(英维克、中航光电等)持续受益;国内ASIC厂商(华为昇腾、寒武纪)加速追赶;服务器ODM(工业富联、中科曙光、紫光股份)需求起量。