报告概述

本报告是“超节点与Scale up网络专题”系列的第一篇,重点研究英伟达在超节点领域的布局与领先优势。报告剖析了Scale up网络的核心技术(NVLink与NVLink Switch),详细拆解了GB200 NVL72和VR200 NVL72两代超节点的硬件构成、互联拓扑与性能指标,并梳理了从Hopper到Rubin架构的迭代路线。同时,报告对比了全球主流算力芯片厂商的Scale up协议(NVLink、UALink、ICI、UB),分析了超节点竞争格局及投资机会,为投资者理解AI算力网络的技术趋势与供应链价值提供参考。

报告的核心结论

英伟达超节点领先优势建立在NVLink和NVLink Switch上。

NVLink通过网状拓扑、差分信号、信用调度等技术实现GPU间高带宽低延迟通信,NVSwitch芯片提供多端口高速交换能力,二者协同使英伟达能够构建72 GPU全互联的NVL72超节点,总交换带宽可达129.6TB/s以上,且持续迭代至3.6TB/s的单GPU互联带宽。

超节点已成为AI算力网络核心创新方向。

大语言模型参数向万亿级演进,张量并行和专家并行对网络带宽与延迟提出极高要求,推动业界构建Scale up网络。英伟达、谷歌、AMD、华为等均推出各自的超节点方案,竞争从芯片性能扩展到芯片+Scale up网络的双战场,2025年起超节点成为AI基建的关键创新方向。

英伟达超节点互联GPU数将从72颗向576颗发展。

根据英伟达路线图,2026-2027年将推出Vera Rubin NVL144和Rubin Ultra NVL576,后者通过Kyber机架架构和NVLink Switch Blade实现576 GPU互联,并引入PCB中板替代大量铜缆,体现了持续的工程创新能力。

报告回答的关键问题

英伟达超节点技术优势是什么?

英伟达超节点的核心优势在于自研的NVLink私有协议和NVLink Switch芯片。NVLink重新设计通信架构,采用网状拓扑、差分信号、流量调度信用机制等技术,实现GPU间高速全互联;NVSwitch作为交换芯片,支持多端口Clos网络架构,提供超高带宽和低延迟。最新GB200 NVL72总交换容量达129.6TB/s,VR200 NVL72翻倍至259.2TB/s,且单GPU互联带宽持续升级至3.6TB/s。

NVLink和NVSwitch在超节点中起什么作用?

NVLink是英伟达的高带宽互连技术,用于GPU之间直接通信,支持多对多同时连接;NVSwitch是专门的交换芯片,可提供大量端口(如NVSwitch5有72个端口),实现多个GPU之间的全互联拓扑。两者结合构成Scale up网络,使超节点内的所有GPU能像一台超级GPU一样协同工作,满足大模型训练中的张量并行和专家并行需求。

英伟达超节点产品有哪些迭代?

英伟达超节点从Hopper架构起步(GH200 NVL72),经Blackwell架构(GB200 NVL72、GB300 NVL72)到Rubin架构(VR200 NVL72),未来还将推出Vera Rubin NVL144和Rubin Ultra NVL576。每一代均提升互连带宽和规模:GH200实现GPU与CPU统一内存,GB200标准化72 GPU机柜,VR200总交换容量翻倍,后续将向576 GPU演进,并引入Nyber机架和PCB中板技术。

报告中的代表性数据

180 PFLOPS

GB200 NVL72超节点TF32算力

2024-2025年,基于英伟达Blackwell架构的GB200 NVL72超节点,采用TF32 Tensor Core精度下的算力为180 PFLOPS。

129.6 TB/s

GB200 NVL72超节点总交换容量

2024-2025年,GB200 NVL72中18颗NVSwitch5芯片的总交换容量,支持72颗B200 GPU满带宽全互联。

259.2 TB/s

VR200 NVL72超节点总交换容量

2026年,Rubin架构VR200 NVL72中36颗第六代NVSwitch芯片的总交换容量,较上代翻倍。

以上数据根据报告摘要整理,具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 完整市场数据与趋势图表:包含LLM参数规模演进对网络需求的定量分析,以及Scale up与Scale out网络的性能对比图表。
  • 英伟达超节点迭代路线图:从GH200 NVL72到VR200 NVL72的详细技术参数对比,涵盖算力、内存、带宽、功耗等关键指标。
  • Scale up网络核心技术详解:深入介绍NVLink物理层、链路层、信用机制、多Lane绑定及统一内存空间等创新技术。
  • GB200 NVL72硬件拆解:包括计算托盘、交换托盘、电缆盒、背板互联的详细图解和端口配置说明。
  • VR200 NVL72对比分析:与上代产品在互联拓扑、铜缆数量、SerDes速率等方面的改进细节。
  • 全球主流Scale up协议对比:英伟达NVLink、AMD UALink、Google ICI、华为灵衢的技术特点与生态进展。
  • 投资建议与风险提示:分析超节点供应链机会,推荐关注PCB背板、高速铜缆、光模块、液冷等环节,并提示LLM技术路径变化等风险。
  • 英伟达超节点出货量预测:引用大摩预测2025年GB200/300 NVL72出货量约2800台,以及未来NVL144/NVL576的推出时间表。

本页内容由川海智库整理,用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限,部分观点、数据、统计口径或表述可能存在偏差,具体内容请以完整报告原文为准。

相关报告