返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

AI芯片功耗趋势

国海证券AI算力报告深度追踪了AI芯片功耗的演进趋势。英伟达每一代GPU的计算能力与功耗持续扩大,A100功耗400W→H100 700W→B200 1000W→GB200 2700W。下一代AI GPU在进行高功率计算时均需要超过1kW的功率支持,是传统CPU的3倍。随着芯片功耗提升,数据中心机柜功率规格将从30-40kW推高至100kW,服务器电源功率需求从3kW向12kW演进。AI芯片功耗的持续攀升正驱动高功率服务器电源市场进入高速成长期。

英伟达GPU功耗演进:从400W到2700W

英伟达GPU功耗呈指数级增长。Ampere架构A100功耗400W;Hopper架构H100提升至700W;Blackwell架构B200功耗达1000W(双芯片设计),GB200(Grace CPU+2×Blackwell GPU)功耗达2700W。从晶体管数量看,B200封装2080亿晶体管,而H100晶体管为800亿,封装密度的提升直接带动功耗增长。计算能力方面,B200的FP16密集计算能力约为A100的7倍,但功耗仅增加了2.5倍,计算效率持续提升。英伟达Blackwell GPU支持FP4精度,GB200的FP4计算能力可达20P,NVlink带宽3.6TB/s,显存容量384GB、带宽16TB/s。

AI芯片功耗驱动的电源需求升级路径

传统服务器电源功率集中在500-2000W区间,随着AI芯片功耗提升,电源需求正从3kW向12kW演进。每个GPU功耗从700W→1000W,单个服务器需要配置4-8个GPU,单台AI服务器功耗从5-10kW提升至10-20kW。英伟达B200单卡1000W功耗意味着单台8卡B200服务器功耗超8kW,加上CPU、内存、网络等组件,单台服务器功耗达10-12kW。据Navitas,下一代AI GPU如Blackwell B100和B200进行高功率计算时均需要超过1kW的功率支持,是传统CPU的3倍。机柜功率规格将从30-40kW推高至100kW,对服务器电源的功率密度、转换效率和散热设计提出更高要求。
表:AI芯片功耗增长趋势
厂商/型号功耗(W)应用场景发布时间
NVIDIA A100400通用AI训练2020
NVIDIA H100700AI训练/推理2022
NVIDIA B2001000AI训练/推理2024
NVIDIA GB2002700超大规模AI2024
传统CPU~300通用计算

从单芯片到机柜:功耗链的全面升级

AI芯片功耗的提升在整条电力链路上产生连锁反应。单芯片层面,从400W到2700W的跨越需要在芯片封装、散热、供电三方面同时升级。服务器层面,高功耗GPU需要更大功率的板级DC/DC电源,供电架构从传统12V向48V演进以降低传输损耗。机柜层面,单机柜功率从30-40kW推高至100kW,要求机柜配电、母线槽、PDU等基础设施同步升级。园区层面,超大规模智算中心的电力需求可达100MW以上,对园区变配电、柴油发电机等构成压力。整条功耗链的全面升级为服务器电源及相关电力设备行业带来了系统性增长机遇。

中国AI芯片市场与推理算力需求

2024上半年,中国加速芯片市场规模超90万张,GPU卡占据80%市场份额。据IDC,2024上半年中国加速服务器市场规模达50亿美元,同比+63%,其中GPU服务器达43亿美元,非GPU加速服务器同比增长182%。从工作负载看,推理占比持续提升,2024H1推理AI芯片已占61%市场份额,预期2023-2027年推理AI服务器工作负载占比从41%提升至73%。推理需求的快速增长意味着AI算力需求将从训练侧向推理侧延伸,带来更广泛、更持续的服务器电源需求。据Precedence预测,2026年全球AI芯片市场规模将达477亿美元,2024-2026年CAGR为29.72%。
点击阅读报告原文: 计算机行业AI算力“卖水人”系列(五):服务器电源AI芯片功耗提升高功率电源景气上行-250310(37页)
相关报告