外部经验注入的生产部署质量成本权衡研究

外部经验应按成本感知的选择性服务决策使用，而非通用附加项。

资讯摘要

论文将外部经验注入视为面向部署的质量-成本权衡问题，在真实生产审核场景中评估，并以工具调用和 GPQA 作为对照任务。作者比较无经验基线、随机经验对照、全局提示注入与基于检索的选择性注入，同时分析任务质量与服务成本。结果显示，经验一旦依赖具体案例，选择性检索优于无条件全局注入；检索质量比单纯提高 Top-K 更重要，同一服务策略在短输出与解码密集场景下的成本收益差异明显。

要点速读

1. 论文在真实生产审核场景评估外部经验注入，并用工具调用与 GPQA 作为对照任务。
2. 对比无经验基线、随机经验对照、全局提示注入和基于检索的选择性注入，同时衡量质量与服务成本。
3. 作者报告选择性检索优于全局注入，检索质量比提高 Top-K 更关键，成本收益随输出长度和解码负载变化。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。