回到最新动态
交叉发布 / THE SIGNAL

谱系继承是LLM引导优化进步主因

Lineage Is Memory: Parent Inheritance and Feedback Disclosure in Short-Budget LLM-Guided Optimization

重要性 5.5 AI 辅助整理

论文称贪心父代继承贡献了大部分优化进展。

资讯摘要

论文在九个提示与程序合成基准上开展1750次预注册实验,在匹配评估预算下分离父代继承与反馈披露的贡献。作者报告,贪心父代继承贡献了绝大部分优化进展,即使种子重置重采样每轮获得全部失败的聚类摘要或使用更大提议模型,仍不及前者;全集错误聚类与多样失败选择能改善单步重写并加速搜索初期,但随已解决错误模式被保留并从后续失败列表中过滤,顺序父代继承会迅速缩小差距。对GEPA的token开销分解显示,提议模型反思仅占总成本一小部分,验证与小批量门控消耗近全部预算。

要点速读

  1. 论文在九个提示与程序合成基准上完成1750次预注册运行,在匹配评估预算下对比父代继承与反馈披露。
  2. 作者报告贪心父代继承贡献了大部分优化进展,优于种子重置重采样,即使后者获得全失败聚类摘要或使用更大提议模型。
  3. GEPA的token分解显示提议模型反思仅占小部分成本,验证与小批量门控消耗近全部预算。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开