报告概述

本报告聚焦Agentic AI(智能体)场景下算力需求的结构性变化,深入分析CPU从传统调度角色向高并发执行与内存承载核心的转变。报告覆盖主流Agent架构(如Manus、OpenAI)的云端沙盒执行模式,从控制流特征、长上下文推理、系统瓶颈实验等维度论证CPU的不可替代性。同时梳理头部CSP(AWS、Google Cloud)的沙盒基础设施建设和CPU龙头(AMD、Intel、NVIDIA)的超多核演进路线,并探讨相关投资标的。为投资者理解AI算力投资新方向提供系统框架。

报告的核心结论

Agent执行阶段控制流高度分支,CPU优于GPU。

Agent行动阶段包含大量if/else判断与系统调用,控制流发散导致GPU因warp divergence性能下降可达27-125倍;而CPU的MIMD架构与分支预测机制天然适配此类负载,是Agent执行的主战场。

长上下文推理推动CPU成为KV Cache核心承载。

Agent场景下KV Cache随上下文线性增长,快速耗尽GPU HBM。CPU搭配大容量DDR5/LPDDR5并通过CXL扩展,可提供TB级低成本内存,形成“GPU计算+CPU内存”的混合架构,兼顾吞吐与成本效率。

Agentic AI系统瓶颈已从GPU转向CPU并发调度。

实验显示工具处理环节在CPU上耗时占端到端延迟最高达90.6%,高并发下CPU延迟翻倍。超多核CPU成为决定Agent系统并发上限的关键,CPU从附属角色演化为核心资源池。

报告回答的关键问题

Agentic AI为何需要CPU而非仅GPU?

Agent执行涉及大量分支判断、系统调用和工具调用(如浏览器、代码执行),这些任务控制流发散,GPU因SIMT架构效率极低;而CPU的MIMD架构每个核心可独立执行不同控制流,配合分支预测与乱序执行,在复杂任务编排中具有不可替代性。

CPU多核化如何适应Agent时代需求?

Agent执行呈现高并发、长任务、强隔离特征,需同时承载成千上万沙盒实例。CPU龙头转向超多核与能效核路线,如AMD Turin 192核、Intel Sierra Forest 288核,以更高并行度和更低单位功耗支撑大规模长期运行的Agent环境。

英伟达GB200架构中CPU扮演什么角色?

GB200中Grace CPU与Blackwell GPU配比达1:2,CPU侧大内存(最高480GB LPDDR5X)通过NVLink-C2C与GPU统一地址空间,专门承载Agent场景下海量KV Cache,使GPU专注于计算,确认了大内存CPU作为KV Cache核心容器的作用。

报告中的代表性数据

最高达90.6%

Agent任务中CPU耗时占比

2026年报告引用数据,在Haystack RAG、Toolformer等多类Agentic工作流完整执行链路中,工具处理环节(检索、Python/Bash执行、Web请求等)在CPU上消耗的时间占端到端延迟的比例最高可达90.6%,揭示CPU是系统性能瓶颈。

从2.9秒升至6.3秒以上

高并发下CPU端到端延迟增幅

2026年报告引用数据,当Batch Size提升至128,CPU端到端延迟从2.9秒跃升至6.3秒以上,增幅超2倍,原因在于并发进程数超出物理核心数引发严重上下文切换与同步开销。

4-5倍(2024年),预计1-2倍(2026年)

HBM3e与DDR5单位容量价格比

2024-2026年,TrendForce数据显示HBM3e单位容量价格曾是DDR5的4-5倍,即便到2026年价差仍在1-2倍,凸显CPU侧DDR5/LPDDR5在承载KV Cache时的成本优势。

以上数据根据报告摘要整理,具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 完整市场数据与趋势图表:涵盖Agent架构下CPU与GPU性能对比、核心数演进路线图、CSP沙盒基础设施布局等关键图表。
  • 研究模型与评价维度:从控制流、内存带宽、并发调度等维度建立Agent场景下的算力需求分析框架。
  • 服务商分层与厂商分析:深度分析英特尔、AMD、英伟达、海光信息、澜起科技等公司的产品路线、营收拆分及战略定位。
  • 案例分析:OpenAI ChatGPT Agent、Manus沙盒、DeepSeek Engram架构等技术方案的具体拆解。
  • 预测与选型框架:基于Agent落地节奏、超多核CPU渗透率等关键变量,给出算力配置建议。
  • 风险提示:包含Agent落地节奏不及预期、新型硬件架构替代、CSP资本开支波动等三大风险分析。

本页内容由川海智库整理,用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限,部分观点、数据、统计口径或表述可能存在偏差,具体内容请以完整报告原文为准。

相关报告