LazyAgent 按请求需求决定执行哪些步骤,作者报告可省约四成 CPU。
资讯摘要
论文提出 LazyAgent,将按需驱动执行引入智能体运行时:仅当当前请求需要时才执行已就绪步骤,并用程序推导的需求集在单次遍历中判定、无需模型调用。作者报告在 154 个生产工作流的 303 个请求上,相比急切运行时节省 42.0% CPU,在请求需要整图时结果完全一致,额外开销至多 0.43%。
要点速读
- 作者报告急切运行时把 62.2% 的 CPU 花在请求并不需要的工作上;LazyAgent 在发布门禁场景节省 51.7% 和 52.1% 容器时间,在 DataSciBench 上同等质量下节省 12.8% token。
- 在真实 LangGraph 应用中节省 24.0% 费用;LLM 因真实代码失败重新规划时,每个目标 token 减少 11.7%。
- 作者指出公开智能体基准与急切运行时设计相同,无法体现该差异,并呼吁业界构建衡量工作流执行效率的基准。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。