国产AI芯片正以ASIC架构为突破口，在推理场景中加速追赶。西南证券报告指出，华为昇腾910B在受制裁三年后性能大幅突破，昇腾AI集群已扩展至16000卡成为业界首个万卡集群；寒武纪MLU370系列在150W功耗推理卡中能耗比达1.71-2.56，具有显著优势。全球ASIC市场并未形成明显的头部厂商，国产公司后续有望逐步追赶。
华为昇腾：达芬奇架构+万卡集群+CANN生态
华为昇腾系列芯片基于自主研发的达芬奇架构，专为AI计算设计。昇腾910（2019年）采用7nm增强版EUV，FP16算力320 TFLOPS，相比英伟达V100 SXM的125 TFLOPS高一倍以上。昇腾910B（2023年）在受美国制裁三年后发布，性能取得重大突破，HCCS互联速度达392GB/s，结合PCIe 5.0和RoCE接口可以组建更具规模的训练系统。
昇腾计算产业是基于昇腾系列处理器和基础软件构建的全栈AI计算基础设施，包括昇腾系列处理器、CANN异构计算架构、AI计算框架、应用使能、开发工具链等全产业链。昇腾坚持“硬件开放”策略，Atlas系列覆盖模块、板卡、智能边缘、服务器、集群等全产品形态。
2023年7月，昇腾AI集群从4000卡扩展至16000卡，成为业界首个万卡AI集群，拥有更快的训练速度和30天以上的稳定训练周期。自研达芬奇架构的3D Cube能够在一个时钟周期内完成4096次乘加运算，相比传统2D结构运算周期短、时延低、利用率高。CANN异构计算架构对上支持PyTorch、MindSpore、TensorFlow等多种AI框架，对下服务AI处理器与编程，是提升昇腾AI处理器计算效率的关键平台。昇思MindSpore实现易开发、高效执行、全场景覆盖三大目标。
寒武纪：云端推理卡能耗比领先，MLU370对标英伟达L20
寒武纪是AI芯片领域独角兽，已形成云端、边缘端、终端三大产品线。思元370（MLU370）采用7nm制程和chiplet技术，是国内首款支持LPDDR5内存的云端AI芯片，也是首款基于chiplet技术的AI芯片。
MLU370-X8提供256 TOPS（INT8）峰值算力，高于英伟达L20。在150W功耗推理卡中，MLU370-X4峰值算力和昆仑芯2020同为256 TOPS（INT8），能耗比1.71。MLU370-S4能耗比高达2.56，在高密度云端推理领域具有显著优势。
寒武纪研发大语言模型分布式推理加速库BangTransformer，适配LLaMA、GLM、BLOOM、GPT-2等主流生成式大语言模型，支持算子融合、张量并行、量化推理、Flash Attention等优化特性。MagicMind推理引擎是业界首个基于MLIR图编译技术达到商业化部署能力的推理引擎，在功能、性能、兼容性上都有良好表现，基于MagicMind到PyTorch的集成，客户无需代码迁移也能享受性能加速。
国产ASIC追赶路径：推理先行、训练跟进
国产AI芯片在推理领域具有竞争优势。ASIC在执行特定AI算法时的高性能和高能效优势，对于大规模数据中心等对能耗敏感的场景非常重要。国内云端推理芯片市场中，寒武纪MLU370系列在150W功耗段对标英伟达L20（239 TOPS），性能处于同一梯队，能耗比表现更优。
训练领域差距仍存。华为昇腾910B在训练侧已取得突破，但与国际领先水平仍有差距。寒武纪训练整机玄思1000基于思元290打造，正在持续迭代。燧原科技T20（2021年12nm，BF16 32 TFLOPS）等产品也在逐步推进。
全球ASIC市场并未形成明显的头部厂商。与GPU市场英伟达一家独大的格局不同，ASIC市场有多家参与者——谷歌TPU、亚马逊Trainium/Inferentia、微软Maia、Meta MTIA、特斯拉Dojo、华为昇腾、寒武纪、燧原科技等。海外云厂商自研ASIC多用于自身业务场景，并未对外销售，为国产芯片提供了差异化竞争空间。
国产芯片有望在推理领域加速追赶。随着AI模型从训练走向推理部署，推理算力需求将持续爆发。国内ASIC厂商在推理芯片的功耗、成本、场景适配方面具备本土优势，有望在推理市场中逐步扩大份额。
产业链受益：散热、服务器、晶圆代工
ASIC放量将带动国内半导体产业链多环节受益。散热方面，ASIC芯片功耗持续提升（H100 700W→下一代更高），液冷散热需求爆发。英维克推出Coolinside全链条液冷解决方案，截至2024年9月液冷链条累计交付达1GW，进入英伟达供应链，与宁德时代保持长期合作。
服务器方面，大量ASIC公司催生大量新建服务器需求。国内芯片有望通过ASIC公司加速形成可用大模型算力，带动国内服务器需求起量。工业富联、高新发展、中科曙光、紫光股份等服务器行业龙头受益。
晶圆代工方面，台积电是海外ASIC的主要代工厂（5nm/3nm、CoWoS封装），国内中芯国际有望承接国产ASIC的制造需求。随着国产ASIC规模扩大，中芯国际的议价能力和产业链地位有望提升。
