新基准显示自进化智能体学隐藏规则的能力因模型而异。
资讯摘要
论文提出 CLR-Bench,用逐层叠加隐藏规则的课程评测自进化智能体。每条规则作用于一个不透明标签,该标签对应网上公开的具名分组。作者报告:在用于认证的模型上,六种自进化方法几乎学不到规则,最好仅比冻结智能体高约 5 分;加入一条说明具名分组约定的固定提示后,同一批方法提升 14.5 至 16.5 分。换用 GPT-6-Sol 后,ACE 与 Dynamic Cheatsheet 仅靠反馈即可学习,准确率达 78%。
要点速读
- CLR-Bench 每层在已有规则上新增一条隐藏规则,测试考察未见成员与相似非成员。
- 作者报告六种自进化方法在认证模型上提升有限,最好仅比冻结智能体高约 5 分。
- 固定提示说明具名分组约定后,同一批方法提升 14.5 至 16.5 分;GPT-6-Sol 下 ACE 与 Dynamic Cheatsheet 达 78% 准确率。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。