超节点架构通过高速互联将GPU、CPU及高带宽存储紧密耦合，PD分离逐步成为大模型推理重要架构思路，存算一体通过在存储阵列内直接计算突破“存储墙”瓶颈——先进计算体系结构创新正从硬件堆叠转向系统级协同设计。先进计算产业发展联盟报告深入解析了异构计算、超节点架构、PD分离推理、存算一体、可重构计算等技术方向的发展现状与产业格局。
超节点架构——系统级异构协同的核心载体
异构计算正由多处理器并存迈向系统级一体化设计，成为支撑大模型与复杂数据密集型负载的核心模式。在模型规模和并发度持续提升背景下，单芯片性能提升已难以独立满足需求，系统级创新成为关键方向。以超节点为代表的新型异构系统加快发展，通过NVLink、MatrixLink等高速互联，将大量GPU、CPU及高带宽存储资源在单一逻辑域内紧密耦合，实现近似共享内存级数据交换，显著降低跨节点通信开销。
全球异构计算产业由头部厂商引领。英伟达在CES 2026发布Vera Rubin平台及NVL72超级节点，集成新一代GPU/CPU、高带宽内存与大规模NVLink互联，面向大模型训练与推理显著提升单节点算力密度与系统效率。AMD、Intel等也在推进CPU+GPU+专用加速器的异构平台布局。国内华为展示CloudMatrix超节点系统，浪潮信息、新华三、联想等厂商也在推进多GPU高密度整机与整柜级方案，结合液冷、总线优化和拓扑设计提高系统级能效与部署密度。
PD分离推理——大模型推理的架构突破
计算架构持续向任务分解与异构协同演进。PD（Prefill-Decode）分离逐步成为大模型推理的重要架构思路，将预填充和解码两个阶段映射到差异化硬件资源，减少资源争用并优化时延与吞吐。在推理侧，vLLM、SGLang等开源与商业推理框架广泛支持分离式部署，在长上下文场景中显著提升吞吐与资源利用率。硬件层面，面向特定阶段优化的加速器产品逐步出现，推动形成多层次算力供给体系。
国内云服务商和平台企业围绕大模型服务化需求，推进PD分离推理、分布式推理和异构资源池化管理，在实际业务中探索不同算力资源的协同调度，提升资源利用率和服务弹性。阿里云、腾讯云、百度智能云等均在大模型平台中引入异构算力调度与统一资源管理能力。
存算一体——突破存储墙与功耗墙
存算一体正由前沿探索技术逐步演进为面向高能效计算的重要体系结构方向。作为突破传统冯·诺依曼架构“存储墙”与“功耗墙”的重要技术路线，存算一体通过在存储阵列内或近存储位置直接完成计算，减少数据在存储与处理单元之间的频繁搬运，从体系结构层面提升能效比与吞吐能力。
当前技术路线呈现多元并行态势。在器件层面，基于STT-MRAM、RRAM、PCM等新型非易失存储器的原位计算方案受到广泛关注；在架构层面，围绕“存内计算、近存计算与分层协同计算”形成多种实现路径。存算一体正由单点芯片创新走向“器件—架构—编译框架—模型适配”协同优化。
全球范围仍处于由研发验证向初步产业化过渡阶段。国内多所高校在基于RRAM、MRAM的存内计算方向取得实验成果，部分企业推出面向边缘AI和低功耗推理场景的存算一体芯片样片，在智能感知、物联网等领域开展应用验证。
可重构计算与混合异构
可重构计算正由特定领域加速技术演进为面向多样化AI负载的重要架构方向。在摩尔定律放缓、先进制程成本上升及“内存墙”问题持续存在的背景下，AI芯片发展逐步转向以体系结构优化为核心的创新路径。以CGRA和可重构数据流为代表的新型架构，在硬件层面显式刻画算子依赖关系，将计算单元与本地存储紧耦合，支持数据路径按需配置。
国际方面，SambaNova推出RDU采用CGRA形态，Groq的LPU采用指令驱动数据流执行通道，谷歌TPU持续强化脉动阵列与系统级扩展能力。国内清微智能布局可重构数据流架构，鲲云科技采用数据流驱动架构面向视频分析和边缘推理提供高能效比方案，寒武纪、燧原科技等在片上数据流组织方面引入部分可重构思想。
