川海智库

报告概述

本报告由Citi Research于2025年12月发布，聚焦下一代AI推理模型对推理和内存需求的积极影响。报告基于AWS宣布的Bedrock AgentCore平台记忆功能、Google的Nested Learning方法以及NVIDIA发布的Rubin CPX GPU，分析了大型上下文推理趋势如何驱动GPU/XPU和内存需求。报告还评估了NVIDIA Rubin CPX在成本效率方面的优势及其对竞争对手XPU（如TPU/Trainium）的潜在影响。对投资者而言，报告提供了关于AI基础设施投资和NVIDIA股价前景的深入分析。

报告的核心结论

下一代AI推理模型将显著推升推理与内存需求

报告指出，AWS和Google等云巨头正加强对AI推理模型的支持，例如AWS的Bedrock AgentCore引入了情景记忆功能，Google开发了基于连续学习的Nested Learning方法。这些进展要求AI系统处理更大的上下文窗口，从而驱动对GPU/XPU和高带宽内存的强劲需求，尤其是在2026年。

NVIDIA Rubin CPX通过GDDR7内存降低总拥有成本

报告认为，NVIDIA的Rubin CPX GPU专为超大型上下文处理设计，通过使用成本更低的GDDR7内存替代高成本的HBM，预计可降低总拥有成本约3倍。这使Rubin CPX在性价比上对TPU和Trainium等XPU形成强力竞争，有望在2026年占据更大市场份额。

大型上下文推理将成为AI部署的关键趋势

报告强调，从AWS的贝叶斯记忆功能到Google的连续记忆系统，大型上下文推理正成为AI代理和大型语言模型的核心能力。这种趋势要求模型具备理解长时间交互历史的能力，从而推动了对具有更大内存和更强推理能力的AI芯片的需求。

报告回答的关键问题

下一代AI推理模型如何影响GPU需求？

报告认为，新型推理模型（如AWS的Bedrock AgentCore和Google的Nested Learning）需要处理更大的上下文窗口，这直接增加了对GPU/XPU计算能力的需求。尤其是NVIDIA的Rubin CPX等专门为大型上下文推理设计的GPU，预计将在2026年获得更广泛的应用。

NVIDIA Rubin CPX相比竞争对手有哪些优势？

报告指出，Rubin CPX通过使用成本更低的GDDR7内存，相比基于HBM的竞争产品（如TPU/Trainium）可实现约3倍的总拥有成本降低。此外，Rubin CPX在注意力计算方面比上一代GB300 NVL72快3倍，配合NVIDIA Vera CPU和Rubin GPU，可带来约50倍的投资回报率。

AWS和Google在AI推理方面的最新进展是什么？

报告介绍了AWS在re:Invent大会上为Bedrock AgentCore推出的情景记忆功能，使AI代理能够存储和回忆过去交互，像人类一样从经验中学习。Google则提出了Nested Learning方法，并基于Titans模型设计了具有连续学习能力的Hope模型，其性能在推理和记忆管理实验中超越了其他前沿模型。

报告中的代表性数据

3倍

Rubin CPX的注意力计算速度提升

2025，与NVIDIA GB300 NVL72系统相比，Rubin CPX的注意力计算能力快3倍。

50倍

Rubin CPX平台的投资回报率

2025，每1亿美元投资可在Vera Rubin NVL144 CPX平台上产生约50亿美元的token收入，投资回报率约为50倍。

3倍

Rubin CPX的TCO降低幅度

2025，通过使用GDDR7内存替代HBM，预计总拥有成本降低约3倍。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 详细的NVIDIA Rubin CPX架构分析，包括其针对超大型上下文处理的专用设计，以及与Vera CPU和Rubin GPU的协同工作原理。
  • AWS Bedrock AgentCore情景记忆功能的全面技术解读，展示如何通过事件记忆增强AI代理的认知能力。
  • Google Nested Learning和连续记忆系统的实验方法及结果，包括Hope模型与Titans、Samba、Transformer等模型的性能对比。
  • 对NVIDIA股价的估值分析，基于约30倍市盈率及2027年盈利预测，给出270美元的目标价，并列出潜在风险。
  • 图表演示Nested Learning架构的分解原理及Vera Rubin NVL144 CPX平台的物理布局。
  • 购买建议与短期交易观点，包括48%的预期价格回报和催化剂事件说明。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告