返回顶部
返回首页 会员充值 我的足迹 返回上一页
跳转三个皮匠报告小程序
具身智能
情绪经济
商业航天
十五五
银发经济

推理算力需求爆发

东兴证券研报指出,AI算力需求正经历从“训练主导”向“推理主导”的结构性转变。2024年我国数据中心加速卡中推理卡占比已达57.6%,训练卡仅33%。DeepSeek对训练算力资源的节约并未让整体算力需求减少,反而由于AI Agent等应用的落地,推理算力需求加速爆发。国产AI芯片占比从2022年的不足15%提升至2025年上半年的超四成。本文从结构变化、国产替代、投资方向三方面拆解推理算力爆发逻辑。

推理算力占比超训练:57.6% vs 33%,算力结构历史性转折

AI算力市场正经历从“训练”到“推理”的历史性切换。据第一财经援引IDC、数据港数据,2024年我国数据中心加速卡有57.6%是推理卡,33%是训练卡,推理已取代训练成为AI算力需求的主体。我国加速计算服务器市场出货量2024年同比增长97.3%,预计2025年增长52.9%,整体算力市场仍维持高景气。这一结构性变化的核心驱动是AI应用形态从“训练大模型”向“部署AI Agent”演进——训练是阶段性的“建模型”需求,推理是持续性的“用模型”需求。DeepSeek等低成本训练方案并未减少总体算力需求,反而因大幅降低AI应用门槛,使更多企业和开发者能够部署AI Agent,从而推动推理算力需求加速释放。从全球视角看,科技巨头Capex持续向推理侧倾斜,微软、亚马逊、谷歌、Meta 2025年合计资本支出预计超3200亿美元,推理芯片采购占比持续提升。
表:中国数据中心加速卡市场结构变化
用途类型2024年占比趋势
推理卡57.6%持续提升
训练卡33.0%占比下降
其他9.4%

推理需求倒逼国产算力加速替代:国产占比从15%升至超40%

推理需求的爆发为国产AI芯片提供了历史性机遇。在模型算力需求以训练为主时,由于英伟达芯片算力高、生态好、集群大,同时模型训练难以兼容异构芯片,训练大部分跑在英伟达卡上,国产芯片仅作为备用方案。但随着推理需求占比超过训练,厂商可以根据应用需求把面向某个应用的推理放到国产芯片上——推理环节对AI芯片性能要求较低,国产芯片与英伟达的差距在推理场景中大幅缩小。据IDC数据,2022年和2023年英伟达占中国数据中心加速卡市场的85%-90%;2024年这一比例已降至65.2%,国产算力占比达34.6%;2025年上半年国产算力占比或超四成。华为基于昇腾硬件训练准万亿模型(Pangu Ultra MoE,7180亿参数),推理芯片在昇腾、寒武纪、海光等国产厂商的产品在推理场景中已具备较好的性价比。英伟达H20受出口管制持续受限,进一步加速国产替代进程。

算力结构变化带来的投资逻辑重构

推理算力主导的新格局下,AI算力投资逻辑需相应调整。算力需求持续性提升——推理需求是“消耗品”,与终端用户数和应用频次直接相关,需求持续性远强于训练;芯片性能要求差异化——推理场景对单卡算力峰值要求较低,但对延迟、吞吐、功耗等综合指标要求更高,国产芯片在推理场景的竞争力相对更强;存量英伟达芯片可满足推理需求,新采购中推理芯片的国产替代比例将持续提升。生态壁垒弱化——CUDA在训练场景的生态优势在推理场景中被弱化(推理对算子灵活性要求较低),国产芯片配套软件栈(华为CANN、海光“类CUDA”等)在推理场景中基本可用。建议关注国产AI芯片核心标的(海光信息、寒武纪)、AI服务器(浪潮信息)、以及推理算力需求驱动下受益的IDC和算力租赁环节。
点击阅读报告原文: 计算机行业2025年中期策略:AI Agent引领计算机行业价值重估-250610(28页)
相关报告