DeepSeek-R1不仅是一款顶尖推理模型,更是端侧AI的“加速器”。国海证券《DeepSeek研究框架》报告显示,DeepSeek-R1蒸馏的Qwen-32B模型在AIME 2024达72.6%,超越OpenAI o1-mini(63.6%);蒸馏Llama-70B达70.0%。DeepSeek产品协议明确允许“模型蒸馏”,小模型可以获得近似大模型的推理能力。全球端侧AI市场规模预计从2022年152亿美元增长至2032年1,436亿美元,近十倍增长。本文从蒸馏技术、端侧市场、产业链机会三个维度,解析端侧AI模型部署的前景。
DeepSeek蒸馏技术突破——小模型获得近似大模型推理能力
DeepSeek-R1在开源660B模型的同时,通过模型蒸馏技术提炼出6个小模型(1.5B、7B、8B、14B、32B、70B),将大型推理模型的推理模式有效迁移至小型模型。DeepSeek-R1-Distill-Qwen-32B在AIME 2024 pass@1达72.6%,超越OpenAI o1-mini(63.6%);在MATH-500达93.9%,在Codeforces达1,691。DeepSeek-R1-Distill-Llama-70B在AIME达70.0%,MATH-500达94.5%,Codeforces达1,633。DeepSeek产品协议明确支持用户进行“模型蒸馏”,允许用户利用模型输出、通过模型蒸馏等方式训练其他模型。这一策略使拥有应用场景的企业或机构可以基于DeepSeek-R1蒸馏适合自身垂类领域的小模型,在端侧设备上部署高性能推理能力。蒸馏技术的突破解决了端侧AI长期面临的“算力有限、内存受限”约束——70亿参数模型在Int4精度下仅需4-8GB内存,可运行于中高端手机;32B模型在Int4下需7.8-11GB,适配更高端设备。
全球端侧AI市场2032年达1436亿美元,小模型可部署性持续提升
全球端侧AI市场正处于爆发前夜。端侧AI全球市场规模预计从2022年152亿美元增长至2032年1,436亿美元,近十倍增长,制造、汽车、消费品等多个行业对边缘AI解决方案需求迫切。自2023年起,参数量低于10B的模型系列(如Meta的LLaMA、Microsoft的Phi系列)涌现,LLMs在边缘设备上运行的可行性逐步明朗。DeepSeek模型蒸馏进一步降低了端侧部署门槛——1.5B小模型可在智能手表、耳机等轻量化设备运行,7B/8B模型可在中高端手机和PC运行,32B/70B模型可适配更高端设备。在存储和功耗层面,DeepSeek-R1-Distill-Qwen-1.5B在AIME达28.9%,虽然不及大模型但已可满足基本推理需求。产业链层面,AI手机2028年渗透率预计达54%,AI PC 2025年出货量预计达1.14亿台(同比+165%),端侧AI设备数量的爆发式增长将直接拉动对端侧推理芯片、存储和模型部署方案的需求。
DeepSeek-R1蒸馏小模型性能对比| 蒸馏模型 | AIME 2024 pass@1 | MATH-500 | Codeforces | 适用设备 |
|---|
| Qwen-32B | 72.6% | 93.9% | 1,691 | 高端手机/PC |
| Qwen-14B | 69.7% | 93.9% | 1,481 | 中高端手机 |
| Qwen-7B | 55.5% | 92.8% | 1,189 | 中端手机 |
| Qwen-1.5B | 28.9% | 83.7% | 954 | 轻量化设备 |
| OpenAI o1-mini | 63.6% | 90.0% | 1,820 | — |
端侧AI产业链机会——手机、PC、汽车、眼镜四大赛道
端侧AI的渗透正在推动四大终端赛道的变革。AI手机方面,Canalys预测2024年AI手机渗透率16%,2028年升至54%。DeepSeek等小模型可在手机端本地运行推理任务,保护隐私、降低延迟、节省带宽。高通、联发科、苹果等SoC厂商已将NPU作为标配,算力从数TOPS到数十TOPS。AI PC方面,Gartner预测2025年AI PC出货量达1.14亿台(渗透率43%),NPU成为PC标配。AI汽车方面,比亚迪整车智能“璇玑架构”全面接入DeepSeek R1,提升车载AI能力。AI眼镜方面,Meta、百度、小米、三星等计划2025年发布AI智能眼镜,端侧小模型可支持本地语音交互、物体识别、实时翻译等任务。从产业链看,上游受益于端侧AI算力需求增长的包括:AI芯片(NPU升级)、存储(内存容量提升)、感知传感器;中游受益于模型蒸馏和部署方案的包括:AI模型优化服务商、端侧推理引擎;下游受益于终端产品AI化的包括:手机、PC、汽车、眼镜等品牌商。推荐关注:软通动力(华为昇腾生态+鸿蒙)、中科创达(端侧AI操作系统)、乐鑫科技(AIoT Wi-Fi MCU)、移远通信(蜂窝模组+AI边缘计算)。DeepSeek开源生态+模型蒸馏能力将加速端侧AI从“高端旗舰”向“全价位段”普及。