对齐自动研究：智能体与人类的共同改进

论文提出 HackBench 并给出两种训练方法以改善人机共同研究

资讯摘要

论文研究自动研究智能体与人类研究者的协作，聚焦基准创建领域，发现人类在构思阶段仍起关键作用。作者提出 HackBench 基准，显示现有智能体对齐不足、难以完成 hack 定位；并给出两种训练方法：用人类模拟器作为强化学习代理来改善人机交互，以及用与人类专家对齐的评分标准做强化学习以提升文本生成与沟通。

要点速读

1. 论文发现人类在自动研究智能体的构思阶段仍扮演关键角色
2. 作者构建 HackBench 基准，显示当前智能体对齐不足且难以完成 hack 定位
3. 提出用人类模拟器做强化学习代理、用专家对齐评分标准训练文本生成两种方法

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。