简单特征在该数据集上胜过多数AI控制监控器
资讯摘要
论文指出，在标准AI控制评测数据集上，简单特征无需运行代码即可区分诚实代码与后门代码，表现超过24个开放权重模型中的20个。作者认为数据集存在标签泄漏：诚实解由人编写、后门由旧模型生成，代码风格暴露类别；可被后门的问题本身也有不同特征。将一类样本换成Claude Sonnet 5代码后，区分度从0.79升至0.95。标准测试集中七分之一后门未通过有效性检查，Sonnet 5监控器对旧模型后门检出77%、对自身后门仅37%，验证后为78%对61%。作者发布重建数据集与检查方法。
要点速读
- 简单特征无需执行代码即可区分诚实与后门代码，排名超过24个开放权重监控模型中的20个。
- 数据集存在两类标签泄漏：代码作者风格差异，以及可被后门问题的基本特征。
- 标准测试集七分之一后门未通过有效性检查；Sonnet 5监控器对旧模型后门检出77%，对自身后门仅37%。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。