川海智库

报告概述

本报告是Bernstein发布的Generative AI系列第四篇，聚焦AI Agent的技术架构与实现原理。报告从基本LLM的局限性出发，详细拆解Agent系统的四大核心模块：记忆（短期与长期）、工具与MCP协议、工作流/技能/系统提示词，以及推理规划机制。报告覆盖了从数据基础设施到工程化部署的全链条，并探讨了Agent能力提升与模型改进之间的关系。读者可以借此理解Agent如何通过上下文工程弥补LLM的不足，以及当前Agent技术发展的阶段与挑战。

报告的核心结论

Agent能力提升不必然依赖模型本身进步。

报告指出，Agent架构是“围绕LLM构建”而非“深入LLM内部”，因此Agent性能的增长更多来自工程优化和功能补充，而非模型基座的根本突破。即便LLM性能触及天花板，Agent应用仍可通过上下文工程、工具集成等方式持续释放潜力。

生成式AI正从通用化走向专门化。

与预训练缩放定律时代的“简单暴力”不同，Agent时代需要大量精细的工程选择：每个工具、工作流和数据都需要精心设计。这意味着全能型自主Agent短期内难以实现，而专用Agent将率先在实际场景落地。

Agent化将增加CPU使用，利好超大规模云服务商。

不同于纯LLM训练和推理主要依赖GPU，Agent的许多环节（如数据库管理、API调用、逻辑判断）将在CPU上执行。随着Agent采用率提升，CPU消耗将增长，为微软、甲骨文等云服务商带来额外收入和更高的AI工作负载毛利率。

Agent开发的实际工作量远超多数人预期，时间线将更长。

报告强调，构建有效Agent需要大量数据预处理、工具编排、规则制定及工程迭代，其复杂度接近产品工程而非“开箱即用”。因此，定制化Agent的成熟时间将比市场普遍预期的更长，且需要更多专家（如Forward Deployed Engineer）参与。

报告回答的关键问题

AI Agent与普通LLM有什么区别？

普通LLM无法记住对话历史、信息过时、无法执行操作且经常产生幻觉。AI Agent通过提供记忆、领域知识、工具和规则来弥补这些缺陷。Agent架构在LLM周围构建了短期/长期记忆、工具调用、工作流等模块，使LLM能够更可靠地完成复杂任务。

Agent中的MCP协议是什么，为什么重要？

MCP（模型上下文协议）是Agent与第三方应用交互的标准化接口。不同于传统API（面向人类开发者），MCP为LLM提供自然语言描述的指令和schema，使Agent能动态调用外部工具。它解决了不同Agent与不同系统之间的互操作性问题，是工具生态繁荣的关键。

Agent如何决定调用哪个工具？

Agent通过ReAct（Reasoning+Acting）框架学会在推理过程中分解任务并调用工具。模型被提供少量示例后，能概括出“思考-行动-观察”的循环，从而决定何时使用何种工具。工具调用通过schema转换为JSON格式，再被翻译为实际代码执行。

Agentic AI的发展面临哪些技术瓶颈？

主要瓶颈包括：1) 长上下文导致模型性能退化（注意力预算摊薄）；2) 短期记忆压缩会丢失低价值信息；3) 工具数量增长后LLM容易混淆；4) 多Agent通信时问题复杂化。此外，大量工程工作（如数据清洗、工具编排）也制约着Agent规模化。

完整报告包含什么

  • Agent技术演进路径：从2022年ChatGPT到2026年Agent系统的完整发展脉络，包括每阶段关键突破。
  • 记忆模块详解：短期记忆（运行历史总结）与长期记忆（RAG/Agent检索）的实现原理、优劣对比及未来共存可能性。
  • 工具与MCP深度解析：工具schema定义、LLM如何根据指令填写输入、MCP服务器与API的区别，以及GitHub MCP实现案例。
  • 工作流/技能/系统提示词光谱：从代码规则到自由Agent的确定性-灵活性谱系，以及如何针对不同用例选择最佳平衡点。
  • 数据基础设施要求：Agent所需的企业数据采集、清洗、索引、向量化与检索的全流程技术方案。
  • ReAct框架详解：通过Hotspot QA示例展示推理与行动如何协同，减少幻觉并提高事实性。
  • 实践中的工程挑战：长上下文退化、注意力预算约束、多Agent协作复杂度及Forward Deployed Engineering的必要性。
  • 投资启示与厂商分析：报告中覆盖的Adobe、HubSpot、微软、MongoDB、甲骨文、Salesforce、SAP、Snowflake、Workday等公司的估值与Agent影响评估。
  • 完整披露与风险说明：包含评级定义、利益冲突声明、法律限制及全球读者适用性信息。

本页内容由川海智库整理，用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限，部分观点、数据、统计口径或表述可能存在偏差，具体内容请以完整报告原文为准。

相关报告