回到最新动态
研究论文 / THE SIGNAL

研究质疑通用技能优化器对智能体任务的实际激励效果

Does Your Generalist Skill Optimizer Really Incentivize Agentic Tasks? Rethinking Skill Optimization via Bipartite Attribution

重要性 5.5 AI 辅助整理

论文称技能优化器的开发集增益可能来自选择偏差,且会多耗约16%输入token。

资讯摘要

论文提出 BiPA,通过在与种子相同的候选上重放优化器的接受规则,衡量仅靠选择本身能报告多少增益,并把每个回合及其读取的文本记录为二分图,以追踪额外输入 token 的来源。作者在三个优化器、三个智能体基准和两个模型上报告:学到的技能成功率与手写种子相近,平均仅高 0.1 分;开发集增益在测试集上消失;输入 token 约多 16%,优化器几乎总是增加规则,其中一半用于复查工作,部分要求一次调用只执行一步。

要点速读

  1. 作者报告学到的技能与手写种子成功率相近,平均仅高 0.1 分,开发集增益在测试集上消失。
  2. 在最多 30 个任务上保留多个候选中的最佳者,即使候选均未改变也能报告同等增益。
  3. 学到的技能多读约 16% 输入 token,优化器几乎总是增加规则,智能体以额外回合执行并重发整段对话。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开