报告概述

本报告围绕Agent基础设施平台展开,研究对象是新一代Agent Runtime。报告覆盖了从Agent生命周期特征分析到运行模式对比,再到产品架构设计等内容。报告采用对比分析框架,指出传统微服务与Serverless架构在生命周期、状态管理、成本效率等方面与Agent需求不匹配,并提出了基于Sandbox的解耦方案,旨在帮助读者理解Agent运行时的技术选型与最佳实践。

报告的核心结论

传统微服务与Serverless架构不适合Agent任务

Agent任务通常需要长生命周期(如30分钟以上)、有状态可暂停恢复、强隔离环境等特征,而Serverless容器和云函数生命周期受HTTP连接或函数返回限制,导致成本浪费(如18倍计费浪费)和状态丢失,无法满足Agent真实行为。

Agent Runtime需将通信层与执行层解耦

通信层要求永远在线、即时响应,执行层要求按需使用、能暂停恢复,两者资源需求模式完全相反。绑定在一起会导致为了通信在线而让执行实例一直活着,造成巨大浪费。解耦后,通信层托管在独立网关,执行层跑在Sandbox,通过消息队列交互,实现灵活伸缩和按需计费。

云端Sandbox模式是Agent运行的最佳实践

该模式实现存算按需分离、按任务隔离、暂停免费、秒级唤醒,支持海量创建与暂停,提供强隔离和完整Linux环境,解决了K8s容器常驻成本高、云函数有状态能力弱等问题,是唯一在所有Agent运行特征上都满足的架构。

报告回答的关键问题

为什么传统微服务不适合Agent任务?

传统微服务中,实例生命周期绑定HTTP连接,Agent任务通常持续30分钟以上且需要中间暂停和状态保存,若用长连接保持实例不销毁,付费与实际计算比可达18倍浪费,且连接断开即丢失状态,无法满足Agent的需要。

Agent Runtime如何解决成本效率问题?

通过将通信层与执行层分离:通信层保持在线,执行层采用Sandbox按需创建、暂停和销毁。这样执行实例仅在计算时计费,暂停时免费,避免了为保持通信而让整体实例常驻的高额成本,同时实现了秒级唤醒和强隔离。

Agent Sandbox相比K8s容器有什么优势?

Agent Sandbox支持长生命周期、有状态可暂停恢复、按需计费暂停免费、强隔离和完整Linux环境、毫秒级启动,以及海量创建与暂停。而K8s容器常驻导致成本高,云函数有状态支持弱,Sandbox在所有Agent特征上均为全✓。

Agent Runtime产品架构包含哪些组件?

包括Agent Engine(构建与托管)、Agent Optimize(优化评测)、全链路观测、Agent Memory(记忆与智能)、Agent Registry(Skills/Tools共享)、Agent Identity(身份与凭证)、Agent Gateway(模型与工具)、Agent Wall(入站出站协议转换、沙箱路由等)以及核心的Agent Sandbox。

报告中的代表性数据

约18倍

传统Serverless容器跑Agent的付费/实际计算浪费比

资料未明确,报告指出,使用长连接骗实例不回收时,付费与实际计算比例约为18倍浪费,源自实例生命周期被HTTP连接绑架。

以上数据根据报告摘要整理,具体统计口径和数值请以完整报告原文为准。

完整报告包含什么

  • 详细对比本地裸机、本地带沙盒、云端多副本和云端Sandbox四种Agent运行模式,分析各自的存算关系与优缺点。
  • 阐述Agent任务生命周期模型与传统Serverless Container、Lambda、Sandbox的错配,以及5个被迫的妥协(如长连接浪费、状态丢失等)。
  • 展示Agent Runtime产品架构图,包括Agent Engine、Agent Optimize、Agent Memory、Agent Registry、Agent Identity、Agent Gateway、Agent Wall和Agent Sandbox等模块及其作用。
  • 描述Agent Wall的入站出站管理、沙箱路由、认证鉴权、透明接管以及身份与凭证服务等细节。
  • 提供Demo演示与快速上手指南,包括agr CLI的使用步骤,帮助读者实际体验Agent Runtime。
  • 讨论典型客群如大模型厂商、Agent服务商、千行百业企业的应用场景,以及Agent从本地单体向云原生化架构演进的方向。

本页内容由川海智库整理,用于帮助读者快速了解报告主题、核心观点和主要内容。由于报告量大、人工能力有限,部分观点、数据、统计口径或表述可能存在偏差,具体内容请以完整报告原文为准。

相关报告