2026年7月初,全球AI算力基础设施正在经历一场静默但深刻的范式转变。回顾过去两年,行业竞争的核心在于“堆砌算力”——从千卡级别发展到万卡乃至十万卡集群,计算能力几乎呈指数级增长。然而,进入2026年第二季度,一个更为重要的转变逐渐显现:单纯追求GPU数量的时代已告结束,取而代之的是一场围绕系统效率、互联带宽、散热技术和能源成本的全面竞争。
根据IDC及多家服务器OEM厂商的最新统计数据,截至2026年6月底,全球范围内在建或已投入运营的万卡级以上AI算力集群已突破70座,相比2025年底增长了约55%。其中,单集群规模超过10万张加速卡的“超大规模”项目有8个,主要分布在北美、中国和中东地区。值得关注的是,新建集群的单卡有效利用率(FLOPS利用率)平均值已从2025年的不足35%提升至2026年中的约52%——这一提升并非源于芯片自身性能的飞跃,而是得益于互联架构与调度系统的深度优化。
成本结构正在经历显著变化。 2025年,一个5万卡集群的TCO(总拥有成本)中,GPU采购成本占比超过75%,基础设施(供电、散热、网络)约占20%。而到了2026年中期,尽管先进封装与HBM内存供应紧张导致GPU单价居高不下,但更显著的变化出现在互联与散热方面:随着400G/800G光模块的大规模部署以及全光互联(Optical Interconnect)在集群中的商用验证,网络与互联相关成本在TCO中的占比已从15%飙升至28%。与此同时,液冷解决方案的渗透率从2025年的约22%跃升至2026年Q2的41%,成为新建集群的“标准配置”。
这一轮成本结构重塑的背后,是算力需求从“训练为主”向“推理主导”的加速转变。IDC数据显示,2026年上半年,AI推理工作负载消耗的算力首次超过训练,占比达到53%。推理场景对延迟和能耗的敏感度远高于训练,这迫使云厂商与算力运营商在互联效率和散热方案上投入更多资源。例如,一家头部云厂商在2026年Q1业绩电话会上透露,其AI推理服务的单位token成本较2025年同期下降了约37%,其中32%的降幅来自系统级优化(互联、存储、调度),而非芯片制程进步。
在万卡乃至十万卡集群中,GPU之间的通信带宽与效率早已取代单卡算力,成为决定实际训练吞吐量的最大制约因素。2026年上半年,这一瓶颈在技术层面迎来了转折点——硅光(Silicon Photonics)与共封装光学(CPO)技术从实验室阶段迈入大规模量产部署。
据Yole Intelligence最新报告,2026年Q2全球硅光芯片出货量达到1.8亿颗,较2025年同期增长112%。主要驱动力来自AI数据中心内部短距互联的爆发式需求。与传统铜缆在接近100Gbps以上速率时面临的严重信号衰减和功耗问题不同,硅光模块在每比特能耗与传输距离上展现出显著优势。英伟达、AMD以及多家中国芯片厂商在2026年推出的新一代GPU互联方案中,均已全面采用或兼容CPO接口,使得单链路速率从2025年的112Gbps跃升至224Gbps,部分前沿方案甚至开始试产448Gbps链路。
这一技术突破对大规模分布式训练产生了革命性影响。在传统的纯铜缆互联万卡集群中,因跨节点通信带宽不足导致的“计算等待”时间常占训练总时间的30%以上。而新一代光互联集群将该比例压缩至15%以下。以训练一个1.8万亿参数的MoE模型为例,采用全光互联方案后,端到端训练时间从2025年的90天缩短至62天,降幅超过30%。
更值得注意的是,光互联的普及正在重塑整个算力硬件产业链的价值分配。传统上,光模块市场由Finisar、中际旭创等厂商主导,但2026年,随着CPO技术将光引擎与交换芯片直接封装在一起,台积电、格芯等晶圆代工厂开始深入参与这一环节。台积电在2026年Q1财报中披露,其“3D Fabric”封装平台中,CPO相关订单营收环比增长240%,成为仅次于先进制程的第二大增长点。这种“芯片化”趋势使得光互联从子系统级组件升级为核心芯片级部件,深刻改变了供应商格局。
然而,光互联的普及也带来了新的挑战。硅光芯片的良率目前仍低于成熟CMOS工艺,2026年平均良率大约在72%左右,与消费级芯片90%以上的良率相比仍有差距。这导致光互联模块的单价在2026年上半年仍维持在300美元/端口左右,尽管较2025年下降约25%,但仍是传统铜缆方案的3倍以上。如何在性能提升与成本控制之间找到平衡,成为2026年下半年行业关注的核心问题。
与光互联同步推进的,是散热技术的革命性变革。随着H100/B200等新一代GPU的TDP(热设计功耗)从700W攀升至1000W以上,以及单机柜内GPU密度的持续提升,2026年Q2,AI集群单机柜平均功耗已突破80kW,部分超算集群甚至达到150kW级别。传统风冷方案在此功耗密度下已完全失效,液冷从“锦上添花”彻底转变为“雪中送炭”。
据专业散热解决方案供应商CoolIT Systems及Vertiv联合发布的行业白皮书,2026年上半年,全球新建AI数据中心中,采用液冷方案的比例从2025年的22%飙升至41%。其中,直接液体冷却(DLC,冷板式)仍占液冷总量的68%,但浸没式液冷方案增速更快,占比从2025年的12%提升至2026年Q2的27%。
浸没式液冷之所以加速普及,核心驱动力在于其对高功率密度的卓越适配能力。当单机柜功耗超过100kW后,传统冷板式液冷在热管理均匀性和泄漏风险方面面临瓶颈。而浸没式液冷通过将整个服务器主板浸入绝缘冷却液中,能够实现更为均匀的热交换,同时消除空气冷却所需的庞大风扇阵列和冷却单元。一家总部位于深圳的液冷解决方案商在2026年Q2宣布,其推出的第三代单相浸没式液冷系统,已成功支持单机柜150kW功耗运行,且PUE(电能利用效率)低至1.05以下,较2025年风冷方案的平均PUE 1.45降低近30%。
然而,液冷的大规模普及也遇到了运维与部署复杂度方面的挑战。浸没式液冷集群的首次安装时间通常比风冷方案多出3-5周,且对运维人员的技能要求更高。2026年上半年,多家云厂商因液冷系统泄漏或冷却液污染导致服务中断的事故超过10起。为此,行业正加速推进标准化工作。2026年5月,OCP(开放计算项目)发布了新一代液冷服务器接口标准OCP v3.0,统一了冷板与浸没式方案的接口规范,预计将显著降低液冷系统的部署门槛和运维成本。
从资本市场角度看,液冷产业链也在经历价值重估。2026年Q2,A股液冷概念板块整体上涨约38%,其中浸没式液冷龙头公司市盈率突破80倍。行业分析师指出,液冷市场的TAM(总可寻址市场)预计将从2025年的45亿美元增长至2028年的220亿美元,年复合增长率超过50%,成为AI硬件产业链中增速最快的细分领域之一。
在全球算力竞赛的大背景下,国产AI芯片与硬件生态在2026年Q2展现出前所未有的突破态势。受出口管制政策持续影响,国内云计算与AI企业不得不加速推动自主芯片的规模化落地。而这一“被迫的独立”,正在催生出一个令人意外的正向循环。
据中国信息通信研究院(CAICT)最新报告,截至2026年6月,国内部署的国产AI加速卡(含华为昇腾、寒武纪思元、百度昆仑芯、海光DCU等)总规模已突破120万张,较2025年底增长80%。更重要的是,在千亿参数级大模型训练场景中,国产芯片集群的实测线性加速比已从2025年的约65%提升至2026年中的约78%,逼近国际主流GPU方案的85%水平。这一进步主要归功于国产芯片互联协议(如华为HCCS)的成熟以及国产CUDA兼容层(如华为CANN、壁仞BIREN)的持续优化。
在成本方面,国产芯片集群的TCO优势开始显现。以训练一个千亿参数模型为例,采用国产芯片集群的硬件采购成本仅为国际主流方案的55-65%,但需要额外付出约15-20%的适配与调优投入。不过,随着国产软件生态的完善,这个适配成本正在快速下降。2026年Q2,百度智能云宣布其基于昆仑芯3代的千卡集群,已实现与国际主流框架PyTorch 3.0的无缝对接,模型迁移时间从2025年的平均3个月缩短至2周以内。
另一个关键变量是先进封装产能的释放。由于美国对先进制程(7nm及以下)的出口限制,国产芯片厂商转而大力推动Chiplet(芯粒)与先进封装技术。2026年6月,华为海思发布基于Chiplet架构的昇腾910C方案,通过将多颗成熟制程芯粒通过3D堆叠集成,实现了接近先进制程单芯片的性能,同时显著降低了单芯片的制造复杂度与成本。这一方案迅速获得国内多家服务器OEM厂商的采用,Q2出货量环比增长220%。
然而,国产算力生态仍面临两大核心挑战:一是先进HBM内存的供应严重依赖进口,国内HBM3量产进度仍落后于三星、SK海力士约1-2年;二是AI框架与工具链的成熟度与国际主流尚存在差距,特别是自动混合精度训练、分布式并行策略等高级功能的支持仍不够完善。但不可否认,2026年上半年已成为国产算力从“能用”走向“好用”的关键转折期。
说明:本文所引用的行业数据,部分来自IDC、Yole Intelligence、CoolIT Systems、Vertiv、中国信息通信研究院(CAICT)等公开行业报告的综合整理,部分数值(如芯片出货量、集群功耗、成本占比等)基于多方信源交叉估算,仅供参考。真实市场数据可能存在偏差,不构成投资建议。