AI大模型的训练与推理对存储带宽和容量提出了前所未有的要求。据华源证券《HBM产业链专题报告》，HBM凭借高带宽、高容量、低功耗和小尺寸四大优势，已全面取代传统GDDR成为AI加速卡（GPU/TPU）的标准配置。NVIDIA H100搭载80GB HBM3，B100/B200已升级至192GB HBM3E，两代之间容量实现翻倍以上增长。2024年全球AI芯片所需HBM总量达63.7亿Gb，同比增幅232%。从NVIDIA、AMD、Google到AWS、Microsoft，全球主要AI芯片厂商已全面导入HBM，HBM已成为衡量AI芯片竞争力的核心指标之一。
HBM已成AI加速卡标配，四大优势不可替代
HBM与传统GDDR相比具有不可替代的综合优势：①高带宽——HBM的I/O接口有1024个数据"线"，远高于GDDR的32条数据线，通过极宽接口实现更高总带宽；②高容量——通过3D堆叠技术可在相同芯片面积内集成更多DRAM层；③低功耗——垂直堆叠缩短数据传输距离，TSV技术降低功耗；④小尺寸——3D堆叠设计大幅减小内存模块体积，节省宝贵的PCB面积。
正是这些综合优势，HBM已全面渗透至主流AI芯片产品线：NVIDIA（B300/GB300/B100/GB200/H200/H100/A100全系）、AMD（MI325/MI350/MI300系列）、Intel（Max/Stratix系列）、Google（TPU系列）、AWS（Trainium/Inferentia）、Microsoft（Maia）均已将HBM作为加速卡的标准内存方案。HBM已成为AI芯片竞争力的重要衡量指标。
单GPU容量翻倍，容量竞赛驱动需求倍增
AI芯片的HBM容量竞赛正加速推进。NVIDIA产品路线图清晰展示了这一趋势：H100搭载80GB HBM3 → H200搭载141GB HBM3E → B100/B200/GB200搭载192GB HBM3E，两代产品间容量实现超翻倍增长。
容量提升的意义在于：AI大模型参数规模持续膨胀（GPT-4突破万亿参数），模型权重需尽可能驻留在高带宽内存中以避免频繁的数据搬运。HBM容量越大，单GPU可承载的模型规模越大，推理延迟越低，训练效率越高。SK海力士已在2024年SK AI峰会上宣布开发全球最大容量16层堆叠HBM3E，单颗容量达48GB。AI芯片的HBM容量竞赛短期内没有放缓迹象。
HBM代际升级加速，HBM4 2026年面世
在AI芯片一年一代的迭代节奏驱动下，HBM技术代际升级明显加速。2018年HBM2→2020年HBM2E→2021年HBM3→2024年HBM3E，代际间隔从3年缩短至2-3年。展望未来：HBM4 12层产品预计2026年发布，带宽超1.5TB/s；HBM4 16层产品预计2027年首次亮相；HBM5已在规划中。
代际升级加速对产业链的影响：对设备/材料供应商，意味着更短的升级周期和持续的技术挑战；对下游AI芯片厂商，意味着每年都能获得更高性能的存储方案；对国内HBM产业，意味着追赶窗口期在收窄，需在HBM4时代到来前完成产业化能力建设，否则将面临新一轮代际差距。HBM国产替代的时间窗口正在快速关闭，这也是华源证券判断板块将迎来戴维斯双击的核心逻辑之一。
表：主流AI加速卡HBM搭载情况（2024-2025）| 厂商 | 加速卡型号 | HBM代际 | HBM容量 | 量产时间 |
|---|
| NVIDIA | H100（含H800/H20） | HBM3/3E | 80GB | 2023 |
| H200/GH200 | HBM3E | 141GB | 2024 |
| B100/B200/GB200 | HBM3E | 192GB | 2024-2025 |
| B300/GB300 | HBM3E | 192GB+ | 2025 |
| AMD | MI300 Series | HBM3 | 128GB/192GB | 2023 |
| MI325/MI350 | HBM3E | 256GB+ | 2024-2025 |
| Google | TPU v5/v6 | HBM2E/3/3E | — | 2023-2025 |
| Microsoft | Maia | HBM2E | — | 2024 |
