回到最新动态
研究论文 / THE SIGNAL

FrontierCS 2:计算机科学研究与开发基准

FrontierCS 2: A Benchmark for Computer Science R&D

重要性 6.5 AI 辅助整理

FrontierCS 2 用 48 个开放式任务评测智能体做前沿计算机科学研究的能力。

资讯摘要

论文提出 FrontierCS 2 基准,包含 48 个开放式计算机科学研究任务:从已发表论文及其代码中删除论文贡献部分,以作者原始代码作为人类参照。智能体在可运行仓库中工作并可随时提交补丁,评审仅返回开发套件分数,保留评估器、留出最终套件与参照。任务覆盖机器学习系统、高性能计算、数据库、安全、机器人等 13 个领域,另有 100 余个私有任务待公布。作者评测 12 个智能体,最佳为 Claude Opus 5.5,通过 58% 的运行;16 个任务无任何运行通过。

要点速读

  1. 基准含 48 个开放式任务,覆盖 13 个领域,另有 100 多个私有任务待公布。
  2. 智能体继承可运行仓库并可随时提交补丁,最终由私有留出套件对照人类参照评分。
  3. 评测 12 个智能体,最佳 Claude Opus 5.5 通过 58% 运行;16 个任务无运行通过,且高分不等于通过。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:10(北京时间)。

阅读 Daily Papers 原文arxiv.org · 在新窗口打开