返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

DeepSeek算力效率

国金证券在《DeepSeek算力效率提升≠算力通缩》报告中深入分析了DeepSeek的底层架构优化与算力效率表现。DeepSeek仅用1814片H800支持了约2500万DAU,H800单卡利用率高达77%,decode任务平均每台H800输出吞吐14.8k tokens/s,超出经过优化的英伟达H200。国金证券认为,高算力效率不等于算力通缩,“参数量×效率×数据规模”才是新的Scaling Law方向。

大规模专家并行(EP)+计算通信重叠(DP)的架构革命

DeepSeek-V3/R1采用高度稀疏的MoE架构,每层256个专家但每次前向传播仅激活8个。为提升吞吐能力,DeepSeek采用大规模跨节点专家并行(EP),将专家参数分布式存储在多个GPU中,被激活的专家分散到不同GPU处理。预填充阶段部署48节点(EP32),解码阶段部署188节点(EP144)。

EP带来较大通信开销,DeepSeek采用计算通信重叠(DP)缓解这一问题。预填充阶段将一批请求分成两个微批次,当一个微批次计算时,另一个微批次的数据正在传输或准备,实现计算与通信重叠。通过双批次交替处理,有效减少了通信耗时,大幅提升吞吐能力。

算力效率实测——H800吞吐14.8k tokens/s超H200

根据DeepSeek披露,decode任务平均每台H800输出吞吐约14.8k tokens/s。作为对比,2025年2月优化后的英伟达H200节点峰值输出吞吐仅5.9k tokens/s,B200节点峰值输出吞吐21k tokens/s。DeepSeek在使用性能低于H200的H800前提下,吞吐能力仍然高于H200,算力效率极高。

DeepSeek用于推理服务的H800数量仅1814个,支持约2500万日活用户。测算得到H800单卡利用率高达77%,接近峰值算力580TFLOPs。高算力效率源于两个方面:单次推理仅激活370亿参数(而非671B总参数量),以及大规模集群架构优化带来的吞吐率提升。

大规模集群的规模效应——批量增大,边际时间下降

吞吐率取决于批量大小(batchsize)与延时(latency)。起初增加batchsize能快速提升吞吐率,但也会增加延时。随着batchsize继续增加,延时增长会逐渐抵消吞吐量收益。

DeepSeek通过EP与DP架构优化,实现在增加batchsize的同时,计算时间和通信时间边际下降,吞吐率得到提升。这体现了大模型的规模效应——大规模集群能提高算力利用率。低峰值倍数(仅1.23倍)虽然降低了算力需求,但一定程度上牺牲了用户体验,用户常遇到服务器繁忙的情况。

算力效率≠算力通缩——新的Scaling Law方向

市场担心DeepSeek仅用1814个H800支持2500万DAU会证伪算力需求。但DeepSeek低算力的原因在于超高算力效率(单次推理仅激活370亿参数、77%单卡利用率)和低峰值倍数(1.23倍,牺牲用户体验)。

算力需求=模型参数量×数据规模×峰值倍数×(1/算力效率)。DeepSeek的案例凸显了算力效率的重要性,但高算力效率不等于算力通缩。“参数量×效率×数据规模”才是新的Scaling Law方向。伴随峰值倍数的提高、数据规模的扩大,算力需求有望持续提升。当前单DAU搜索请求次数仅1.55次,未来用户数、使用频次的提升均有望带来数据规模进一步增加。
表:DeepSeek推理服务算力利用率测算
指标数值单位
日均tokens调用数量7760亿
日均总时长86400
数据规模0.09亿tokens/秒
峰值算力倍数1.23
模型参数量(激活)370亿
算力需求0.8EFLOPS
H800使用量1814
H800单卡利用率77%
点击阅读报告原文: 通信行业深度研究:DeepSeek算力效率提升≠算力通缩国产算力需求方兴未艾-250321(22页)
相关报告