论文：仅识别禁止动作不足以保障智能体安全

论文提出用义务识别补足智能体安全防护

资讯摘要

论文指出，现有 guard models 主要识别智能体被禁止执行的动作，但智能体安全还取决于识别应做而未做的安全关键动作，即 obligations。作者在常用安全评测基准上发现，GLM-5.3 轨迹中 56.92% 存在未履行的义务，而含禁止动作的仅 30.00%。为此论文提出 ObligationBench 基准，含 240 条专家验证轨迹；评测 14 个代表性模型，最高召回率与完全匹配率仅 48.97% 和 10.00%。作者用 4 万条合成样本训练 ObligationGuard，召回率 57.52%、完全匹配率 21.67%，两项均超过所评测模型。

要点速读

1. 论文称 GLM-5.3 轨迹中 56.92% 含未履行义务，高于含禁止动作的 30.00%
2. ObligationBench 含 240 条专家验证轨迹，覆盖问题解决、功能开发与终端操作
3. 14 个模型评测中最高召回率 48.97%、完全匹配率 10.00%；ObligationGuard 分别为 57.52% 和 21.67%

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。