回到最新动态
交叉发布 / THE SIGNAL

LLM智能体脚手架演化中的评估预算分配

Where Should the Evaluation Budget Go in LLM-Driven Agent Scaffold Evolution?

重要性 5.0 AI 辅助整理

论文提出评估预算分配框架,用约一半评估单元取得更高平均性能。

资讯摘要

论文研究LLM驱动的智能体脚手架演化中评估预算如何在“引导搜索”和“决定最终脚手架”两种用途间分配。实验显示稀疏反馈即可维持有效演化,额外定向评估能改善最终选择;重放分析表明共享信息条目与统一评分基准有助于比较接近的候选。作者据此提出评估分配框架,先用完整评估热身建立共享核心并校准响应模型,搜索后重新拟合并采用配对逐次减半,复用已有观测。

要点速读

  1. 论文指出对每个候选在全任务集上评估会带来较高执行成本,因此研究评估预算在搜索引导与最终选择间的分配。
  2. 实验显示稀疏反馈可维持有效演化,额外定向评估可改善最终选择;重放分析表明共享信息条目和统一评分基准支持接近候选的比较。
  3. 作者提出评估分配框架,结合稀疏搜索反馈与定向最终确认,在四个基准和两个演化框架上多数设置平均性能高于完整评估,评估单元约为一半。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开