回到最新动态
交叉发布 / THE SIGNAL

FeatureArc:评估编码智能体的功能演进能力

FeatureArc: Benchmarking Coding Agents on Evolving Features

重要性 5.5 AI 辅助整理

编码智能体整功能成功率远低于首阶段,继承缺陷常被忽略。

资讯摘要

论文提出 FeatureArc 基准,用于评估编码智能体在功能逐步演进场景下的表现,并给出从代码仓库历史自动构建任务的流水线。基准包含同一功能各阶段间的依赖、明确的需求与接口契约,以及覆盖四种编程语言的可执行检查。作者在 73 个经人工审核、含 2 至 10 个阶段的任务上评测 10 个编码智能体,报告整体成功率从首阶段的 62.7% 降至最终代码上的 28.5%,失败后续阶段中 72.9% 存在继承缺陷。

要点速读

  1. FeatureArc 从仓库历史构建多阶段任务,每阶段验证新行为的 F2P 测试与既有行为的 P2P 测试。
  2. 10 个编码智能体在 73 个任务上评测,首阶段成功率 62.7%,整功能在最终代码上测试时降至 28.5%。
  3. 轨迹分析显示 72.9% 的失败后续阶段含继承缺陷,智能体约 95% 的情况下未察觉先前错误。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开