论文提出评估预算分配框架,用约一半评估单元取得更高平均性能。
资讯摘要
论文研究LLM驱动的智能体脚手架演化中评估预算如何在“引导搜索”和“决定最终脚手架”两种用途间分配。实验显示稀疏反馈即可维持有效演化,额外定向评估能改善最终选择;重放分析表明共享信息条目与统一评分基准有助于比较接近的候选。作者据此提出评估分配框架,先用完整评估热身建立共享核心并校准响应模型,搜索后重新拟合并采用配对逐次减半,复用已有观测。
要点速读
- 论文指出对每个候选在全任务集上评估会带来较高执行成本,因此研究评估预算在搜索引导与最终选择间的分配。
- 实验显示稀疏反馈可维持有效演化,额外定向评估可改善最终选择;重放分析表明共享信息条目和统一评分基准支持接近候选的比较。
- 作者提出评估分配框架,结合稀疏搜索反馈与定向最终确认,在四个基准和两个演化框架上多数设置平均性能高于完整评估,评估单元约为一半。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。