GTC2024,英伟达发布基于 Blackwell 架构的 GB200 超级芯片,性能提升功耗优化。①Blackwell 小芯片有 1040 亿个晶体管,采用 TSM N4P 制程,两个 Blackwell 小芯片组成一个 B100。两个 B100 GPU 和一个 Grace CPU 组成了一个 GB200 超级芯片。②Blackwell 拥有 20 PFLOPS 的 AI 算力,192 GB HBM3e,8TB/s 存储带宽,较 Hopper在 FP4 规格算力提升 5 倍。如果要训练一个 1.8 万亿参数量的 GPT 模型,需要 8000张 Hopper GPU,消耗 15 兆瓦的电力,连续跑上 90 天。但如果使用 Blackwell GPU,只需要 2000 张,同样跑 90 天只要消耗 4 兆瓦的电力。