多智能体LLM工作流内存注入成本的精确归因

论文提出TCA方法，精确拆分多智能体工作流中的内存注入成本。

资讯摘要

论文提出Total Cost of Agency（TCA），将多智能体LLM工作流成本拆分为基础提示、推理、内存注入、未命中惩罚和上下文累积五部分，并用两遍非计费token计数直接测量注入token。作者在200项企业基准上调用真实模型API报告：内存注入约占可变成本的13.6%、全额计费成本约12%，占比随工作流深度从1层的0升至6层的27.6%。

要点速读

1. TCA用两遍、非计费的token计数直接测量注入token，而非按词数代理估算。
2. 在200项企业基准上，内存注入约占可变成本13.6%、全额计费成本约12%，深度1层为0、6层升至27.6%。
3. 将检索窗口容量从32条降至2条，注入token减少28.7%，准确率变化在种子级波动范围内；提示缓存未评估。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。