川海智库

报告概述

本报告来自NVIDIA GTC 2026，详细介绍AI推理性能的重大突破、Vera Rubin GPU及下一代计算平台。报告覆盖从芯片到AI工厂的端到端设计，展示推理成本下降和效率提升的量化数据，并探讨代理计算（Agent-as-a-Service）如何重塑企业IT架构。适合关注AI基础设施、算力演进及行业应用的专业人士参考。

报告的核心结论

推理拐点已至，性能与效率驱动商业回报

报告指出，随着Vera Rubin等新平台的推出，推理性能较前代提升10倍以上，每瓦特吞吐量大幅增长，直接推动AI服务商的营收机会从300亿美元跃升至1500亿美元级别。低推理成本和高质量服务形成正循环。

AI工厂成为AI时代的工业基础设施

NVIDIA提出AI工厂概念，强调推理作为核心工作负载，Token成为新商品。通过DSX AI Factory平台，从芯片、系统到液冷、电力实现极速协同设计，加速大规模AI工厂部署。

代理计算将引发企业IT从SaaS向Agent-as-a-Service转型

报告首次定义Agent作为新计算平台，并推出NVIDIA NemoClaw参考架构和Agent Toolkit，帮助开发者构建专业代理。企业IT将经历从软件订阅到智能代理服务的根本变革。

报告回答的关键问题

AI推理成本为何能持续降低？

报告以GB300 NVL72为例，相比H200 NVL8，每Token成本降低35倍，同时每秒交互用户数大幅提升。通过极致协同设计（芯片、系统、算法），NVIDIA将推理效率每代翻倍，使高性价比推理成为可能。

NVIDIA Vera Rubin平台相比前代有哪些提升？

Vera Rubin采用7芯片5机架系统，AI算力达16 ZFLOPS（Hopper的13倍），内存带宽260 TB/s，支持700M tokens/秒输出。配套Vera CPU、BlueField-4 STX及Groq 3 LPX，共同实现10倍性能功耗比。

代理计算（Agent-as-a-Service）如何改变企业IT？

报告认为，企业将从购买SaaS应用转向订阅AI代理服务。NVIDIA提供NemoClaw开放参考设计和Agent Toolkit，开发者可基于Nemotron 3 Super等开放模型构建行业专用代理，实现自动化业务流程。

报告中的代表性数据

35倍性能效率提升

Vera Rubin NVL72推理吞吐量

2026（对比Hopper），在Free/Medium/High/Premium/Ultra五级交互服务下，Vera Rubin NVL72相比于Hopper，吞吐量（TPS/MW）和交互性（TPS/User）综合提升约35倍，显著降低了单位Token成本。

3000亿美元

1GW AI工厂年收入机会

2026（预测），报告预测，基于Vera Rubin+LPX平台，每吉瓦AI工厂的年度总营收可达3000亿美元，是Blackwell时期的10倍，主要来自各层级推理服务收入。

5倍效率+最高推理精度

Nemotron 3 Ultra模型效率与精度

2026，在GB200 NVL72上，Nemotron 3 Ultra相比同类开放模型实现5倍峰值吞吐量，且在理解、代码、多语言、数学四项基准测试中均达到最高准确率。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • NVIDIA AI平台全栈架构图：展示从底层芯片、系统到云服务、行业应用的分层协同关系。
  • 客户案例详解：包括Nestlé（订单到现金数据市集）、NTT DATA（企业数据处理）、Snap（A/B实验平台）等，含具体性能提升与成本节省数据。
  • 芯片路线图：从Blackwell到Feynman共四代GPU，以及Vera CPU、BlueField DPU、Spectrum交换机等配套产品的发布时序与关键规格。
  • DSX AI Factory平台：提供Max-Q、Flex、Exchange、Sim四类工具包，覆盖AI工厂的电源优化、灵活配置、资源共享与仿真验证。
  • Groq 3 LPX处理器专页：详细介绍LPU架构的SRAM容量、带宽、密度等参数及与Vera Rubin的协同方案。
  • 代理计算专题：NemoClaw OpenClaw参考架构、Agent Toolkit组件、以及Nemotron系列开放模型在Agent场景下的评测结果。
  • 全球生态合作：Nemotron联盟成员列表（如Linagora、AI Singapore等），以及区域AI部署案例。
  • 多行业AI应用展示：涵盖自动驾驶（Alpamayo）、物理AI（Cosmos）、机器人（GR00T）、生物学（BioNeMo）等多个领域。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告