论文发布理论物理推理基准 PHYRD,含复现与扩展两类任务。
资讯摘要
论文提出 PHYRD,一个面向理论物理推理的活基准,包含 63 个 Reproduce 问题和 43 个 Discover 问题:前者检验对已发表结果的推导复现,后者检验修改理论条件后的推论。作者用 FormulaForest 构建任务及参考解与子问题级评分标准。五个模型在 Reproduce 上整题准确率为 49.21%–68.25%,闭卷 Discover 为 18.60%–74.42%;借助工具后四个模型完成更多 Discover 题,但概念错误与论证缺失仍存在。作者还报告 FormulaForest 作为合成数据的价值,在 OpenAI 的 FrontierScience 基准上将 Qwen-35B-A3B 的准确率从 61% 提升到 72%。
要点速读
- PHYRD 含 63 个 Reproduce 与 43 个 Discover 问题,由 FormulaForest 生成参考解和子问题级评分标准。
- 五个模型整题准确率:Reproduce 为 49.21%–68.25%,闭卷 Discover 为 18.60%–74.42%。
- 作者报告 FormulaForest 合成数据使 Qwen-35B-A3B 在 FrontierScience 上从 61% 升至 72%。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。