返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

算力基础设施升级趋势

AI大模型的指数级算力需求正倒逼通信基础设施全面升级。OpenAI数据显示,自2012年以来全球头部AI模型训练算力需求每3-4个月翻一番,GPT-3训练使用128台英伟达A100服务器,而GPT-4使用3125台(GPU数量增加近24倍)。算力需求增速远超摩尔定律2年的倍增周期,供需缺口持续扩大。在此背景下,PCB向HDI升级(2023-2028年CAGR 16.3%)、光模块向800G/1.6T迭代、铜连接在短距场景替代光纤、AI服务器出货量2024年预计42.1万台——算力基础设施建设正迎来全面升级周期。

算力供需缺口——AI需求 vs 摩尔定律的赛跑

算力需求和算力基础设施之间存在着持续扩大的供需缺口。OpenAI的分析指出,自2012年以来,最大规模人工智能训练中使用的计算量以3.4个月的倍增时间呈指数增长,而摩尔定律的倍增周期为2年。GPT-3模型训练使用了128台英伟达A100服务器,GPT-4模型训练则使用了3125台英伟达A100服务器——GPU数量增加了近24倍。

供需差的产生分为两个阶段。初期,AI大模型对算力的需求增长远超摩尔定律迭代速度,算力正成为AI发展的瓶颈,尤其是大模型训练和推理阶段;中后期,具身智能机器人、车联网、工业物联网等新应用的持续渗透,将在数据处理、实时推理、模型训练全流程带来指数级算力需求增长,云计算和边缘计算同步增长。

基础设施升级路径——PCB、光模块、铜连接、服务器

算力需求倒逼四大基础设施环节同步升级。PCB方面,AI服务器升级使GPU主板从高多层板向HDI转型,HDI在更小空间实现更高集成度和更强功能,适合高速传输场景。Prismark预计2023-2028年HDI年均复合增速达16.3%,是PCB中增速最快的品类。

光模块方面,Lightcounting预测全球光模块市场规模2026年达176亿美元,数通市场占比从2020年55%升至2026年77%。AI数据中心对算力和带宽的需求推动光模块向800G、1.6T迭代,CPO、硅光、LPO等新技术加速落地,CPO预计2026-2027年规模上量,有望将可插拔光模块功耗降低50%。铜连接方面,英伟达GB200NVL72采用5000根铜缆连接GPU,短距场景下铜连接具备成本、功耗、散热优势,端口速率从56Gbps向112Gbps、224Gbps演进。

AI服务器——国产替代的广阔空间

2023年全球AI服务器出货量接近120万台(+38.4%),预计2024年超160万台。中国AI服务器2023年出货约35.4万台,2024年预计42.1万台。浪潮在中国AI服务器市场份额约47%排名第一,新华三(11%)、宁畅(9%)、安擎(7%)、坤前(6%)、华为(6%)紧随其后。

交换机方面,中国商用以太网交换芯片市场2022年规模132.45亿元(2018-2022年CAGR 13.8%),博通/美满/瑞昱占据97.8%份额,盛科通信市占率1.6%在境内厂商中排名第一。400G端口将成为数据中心网络主流,国产化替代空间广阔。
AI服务器算力需求增长对比
模型GPU数量算力需求发布时间
GPT-3128台A100基准2020年
GPT-43,125台A100增长24倍2023年
点击阅读报告原文: 通信行业2025年年度策略:AI算力方兴未艾AI新应用构筑新成长路径-241205(59页)
相关报告