报告概述

本白皮书聚焦AI算力架构从芯片堆砌向系统级协同的演进,以超节点为核心,系统阐述其设计理念、技术路径与工程实践。报告覆盖芯片协同、高速互联协议、单体与集群超节点硬件形态、液冷供电方案、软件栈及AI工厂构建等维度,旨在为智算中心提供高密度、低延迟、可扩展的算力基础设施解决方案,帮助读者理解大模型时代算力架构的关键突破方向。

报告的核心结论

AI算力架构正从芯片堆砌转向系统级协同。

受单芯片物理极限制约,单纯堆叠GPU已无法线性提升算力。报告指出,通过高速无损互联将数十至数百颗GPU整合为逻辑统一的计算单元,是突破性能瓶颈的核心路径,这也是超节点架构的本质。

超节点构建需满足芯片均衡性、互联有效性、内存便捷性与扩展原生性四大前提。

并非所有GPU都适合构建超节点。芯片的算力、显存与互联带宽需协同匹配;互联架构需兼顾全互联与自适应能力;统一内存编址和类单机编程体验是软件易用性的关键;架构需支持从单体到大规模集群的无缝扩展。

Scale-Up互联协议生态呈现“封闭”与“开放”双轨并行格局,物理层趋向以太网。

英伟达NVLink等私有协议构建高壁垒,而开放路线如UALink、ESUN及国内CLink等正加速发展。物理层SerDes技术以以太网为主导,可提供TB/s级互联带宽,满足超节点对高带宽、低时延的需求。

中兴通讯OEX正交无背板架构可实现高密度、高可靠的单体超节点。

OEX架构通过计算与交换托盘的正交直连,消除线缆损耗,信号完整性提升,SerDes链路缩短30%以上。该架构已入选ODCC重大技术突破案例,并开放规范以支持第三方组件标准化接入。

AI工厂范式将AI开发从项目制升级为标准化、规模化生产。

以超节点为核心的AI工厂,通过全栈软硬协同、模块化设计与算力仿真平台,实现从数据到Token的自动化生产。该模式可缩短业务上线周期、支持架构平滑演进、优化TCO并降低集成风险。

报告回答的关键问题

什么是超节点?

超节点是通过高速互联协议与专用交换芯片构建的高带宽域,将数十至数百颗GPU在逻辑上整合为统一编址、低延迟、高带宽的协同计算系统,提供类单机的编程与调度体验,是AI算力基础设施的核心形态。

超节点对GPU和CPU有哪些核心要求?

GPU需满足互联带宽、算力与显存同步放大,且支持千卡级高带宽域扩展;CPU需具备高单核性能(微秒级处理延迟)和丰富的IO扩展能力,以减少PCIe Switch、降低系统成本。

Scale-Up与Scale-Out网络有何区别?

Scale-Up网络承载张量并行、专家并行等对带宽和时延要求极高的流量,构成高带宽域;Scale-Out网络承载数据并行和流水并行等要求相对较低的流量。超节点内部以Scale-Up为主,跨超节点互联则需Scale-Up/Scale-Out融合设计以降低TCO。

超节点液冷技术有哪些发展方向?

当前主流为单相冷板液冷,可满足百千瓦级机柜散热。未来2-5年,硅基微通道冷板、两相冷板及浸没式液冷将逐步成为主流,以应对芯片功耗突破2000W、机柜功耗向兆瓦级演进的趋势,推动数据中心从算力向能效导向转型。

报告中的代表性数据

130 TB/s

英伟达NVL72超节点GPU间互联总带宽

2025,基于Blackwell架构,单卡NVLink双向带宽1.8 TB/s,NVL72内GPU互联总带宽达130 TB/s。

30%以上

OEX架构SerDes链路长度缩短幅度

2025,在典型112G高速信号场景下,OEX正交架构相比传统Cable Tray方案,SerDes链路长度缩短超30%,消除6.5dB插损,端到端链路插损余量大于3dB。

15%

Qwen3-235B 2K卡规模下256卡超节点相对8卡服务器训练性能提升

2025,基于算力仿真平台分析,在2000卡集群中,256卡超节点相比传统8卡服务器,最优切分下单卡训练性能提升15%,收益主要来自MoE算子性能提升,但存在边际效应。

以上数据根据报告摘要整理,具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 详细阐述AI算力架构演进路线,从芯片堆砌到系统级协同的驱动力与核心技术挑战。
  • 深度解析超节点四大核心前提:芯片均衡性、互联有效性、内存便捷性、扩展原生性,并对比不同技术路线。
  • 全面介绍中兴通讯OEX正交无背板架构的机械、电气规范及工程化验证,包括ODCC重大技术突破案例详情。
  • 分析液冷技术分类(单相/两相冷板、硅基微通道、浸没式)及未来演进路径,附功耗与热流密度预测数据。
  • 讨论HVDC高压直流供电方案(±400V/800V),对比48V/54V的优势与工程化挑战。
  • 详述Nebula单体超节点与Nebula Matrix集群超节点的设计、Scale-Up/Scale-Out融合组网策略。
  • 提供AI工厂构建路径:从物理层、系统层到架构层的模块化设计与算力仿真平台实例(Qwen3-235B/DeepSeek-671B)。
  • 介绍软件栈六大价值:统一虚拟化、通信优化、异构调度、可观测性、冗余机制、绿色调度。
  • 包含集群调度架构(PD聚合/分离)、框架/算子/通信优化细节及Turbo集群算力调度服务。
  • 列出中兴通讯全栈能力:自研芯片、OEX架构、全球交付、标准引领(ODCC/CLink),以及Token经济学展望。

本页内容由川海智库整理,用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限,部分观点、数据、统计口径或表述可能存在偏差,具体内容请以完整报告原文为准。

相关报告