然而,许多最具影响力的效率杠杆在设计和规划阶段被锁定,难以或成本高昂地进行 改造。这些包括冷却架构、设施是否支持液体冷却,以及位置选择,这决定了一个站 点一年中有多少时间可以依赖外部空气进行免费冷却。这意味着设施的PUE性能在建 设时在很大程度上被锁定,而效率较低的数据中心的安装基础将在多年后才能更新。 更广泛地说,硬件和基础设施效率的改善虽然是长期可持续性的基础,但受到资本投 资周期、先进半导体的供应链以及功率密度和热管理等物理限制的制约。因此,硬件 效率的提升通常在系统规模上显现得较软件基于的改进慢,尽管两者对调节人工智能 驱动的电力需求都至关重要。 2.3关键要点 与人工智能相关的能源消费平衡已经明显从训练转向推理。尽管每单位效率仍在快速 工智能使用的快速增长可能会继续抵消效率的提升。这一点因先进推理模型的日益普 及而加剧,现已广泛应用。