川海智库

报告概述

本报告聚焦Agentic AI时代算力架构从GPU主导向CPU与GPU协同分工的深刻变革。报告阐明，当AI从对话模型转向行动智能体（Agent）时，CPU的角色从单纯的调度器升级为核心算力提供者。研究覆盖Agent执行阶段对CPU的依赖、长上下文推理对内存架构的挑战、CPU超多核演进趋势以及相关产业链机会。报告通过分析主流Agent架构、实验数据、头部云厂商布局及CPU厂商产品路线，为投资者提供理解AI算力重构的新视角。

报告的核心结论

Agent架构使CPU从调度角色升格为核心算力提供者。

报告指出，Agent的执行阶段包含大量分支控制流和系统调用，这类任务在GPU上因控制流发散导致效率急剧下降，而CPU凭借MIMD架构和分支预测能力天然适配。记忆体系方面，长上下文推理产生的KV Cache常超GPU HBM容量，CPU搭配大容量DDR5/LPDDR5成为承载KV Cache的主流选择。

Agent场景下CPU成为系统瓶颈，推动超多核演进。

研究显示，Agent执行链路中CPU端耗时占比最高达90.6%，高并发时延迟从2.9秒跃升至6.3秒以上。头部CSP加速建设沙盒基础设施，CPU厂商如AMD（192核）、Intel（288核）正转向超多核架构以满足Agent对并行度和单位成本的要求。

大内存CPU是承载Agent长上下文KV Cache的最优选择。

英伟达GB200架构提升CPU:GPU配比至1:2，并让GPU可旁路访问CPU大内存；DeepSeek新架构将部分知识外置为Engram数据库并由CPU调度。这表明在成本和扩展性考量下，大容量CPU内存正成为Agent短期记忆的核心载体。

报告回答的关键问题

AI Agent时代CPU为什么比GPU更适合执行控制流？

Agent执行阶段产生大量if/else判断与系统调用，控制流高度发散。GPU采用SIMT模型，同一warp内不同分支需串行执行，极端情况下性能下降27-125倍。而CPU为MIMD架构，每个核心独立执行不同控制流，且通过分支预测、乱序执行等机制保持1-2.5 IPC的吞吐，天然适配Agent的离散控制流特征。

Agent场景下CPU如何成为系统瓶颈？

实验表明，在Agent完整执行链路中，工具处理环节（检索、Python/Bash执行、Web请求等）在CPU上的耗时占端到端延迟最高达90.6%。当并发批处理增至128时，CPU端延迟从2.9秒升至6.3秒以上，根源在于并发进程数超出物理核心数，引发上下文切换与同步开销。因此CPU的并发调度能力成为系统吞吐的约束。

为什么超多核CPU成为Agent驱动的必然趋势？

Agent负载呈现高并发、长任务、强隔离特点，需要同时承载成千上万的沙盒/虚拟机。相比单核频率，并行吞吐与单位任务成本更重要。AMD Turin最高192核，Intel Sierra Forest达288核，英伟达GB200也提升CPU配比。超多核CPU以更高并行度、更低单位功耗支撑大规模Agent执行环境，是压降每次任务成本的关键。

报告中的代表性数据

最高可达90.6%

Agent执行链路中CPU耗时占比

未明确，在Haystack RAG、Toolformer等典型Agent工作流中，工具处理相关环节（检索、代码执行等）在CPU上消耗的时间占端到端延迟的比例。数据来源：《A CPU-Centric Perspective on Agentic AI》。

从2.9秒跃升至6.3秒以上

高并发场景CPU端到端延迟增幅

未明确，当并发批处理数从低提升至128时，CPU端延迟增幅超过2倍，根本原因在于并发进程数超出物理核心数。

以上数据根据报告摘要整理，具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 详细的图表展示Agent架构下CPU与GPU分工变化，包括OpenAI、Manus等主流Agent形态的沙盒结构图。
  • 实验数据对比不同GPU在分支发散下的性能表现，量化CPU在Agent控制流中的优势。
  • 头部CSP（AWS、Google Cloud）加速建设Agent沙盒基础设施的案例分析，阐述软硬件架构布局。
  • CPU龙头厂商（AMD、Intel）数据中心产品路线图，展示核心数从32核向192-288核演进的趋势。
  • 英伟达GB200 Grace Blackwell超晶片架构解析，说明CPU如何成为KV Cache的核心承载体。
  • DeepSeek Engram架构分析，展示CPU从推理调度器升级为AI系统控制与记忆管理中枢。
  • 相关公司业务与财务分析，包括英特尔、AMD、海光信息、澜起科技等，覆盖营收拆分与产品进展。
  • 投资建议与风险提示，包含Agent落地节奏、新型硬件替代、CSP资本开支波动等风险因素。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告