回到最新动态
论文更新 / THE SIGNAL

Defense-as-Skill:可进化的运行时防护技能

Defense-as-Skill: Evolving Runtime Guard Skill for Skill-Augmented Agents

重要性 5.5 AI 辅助整理

论文将运行时防护做成可进化技能,并报告攻击成功率明显下降。

资讯摘要

论文提出 Defense-as-Skill 范式,将运行时防护本身实现为可安装、可检查、可编辑的技能。其防护组件 SkillSonar 与不可信任务技能并行运行,依据用户任务边界检查敏感操作,并给出允许、重规划或确认三种决策,且不修改底层 agent 运行时。作者构建 SCOPE-R 数据集,并用蒙特卡洛树搜索进化防护技能;作者报告在 Claude Code 与 OpenClaw 上攻击成功率下降。

要点速读

  1. SkillSonar 以技能形式实现运行时防护,对敏感操作输出允许、重规划或确认决策,无需改动 agent 运行时。
  2. SCOPE-R 数据集覆盖 6 类风险、21 个子类,含 206 个攻击确认的恶意实例与 43 个良性任务。
  3. 作者用基于 rollout 反馈的蒙特卡洛树搜索进化磁盘上的防护技能;在 GLM-5 重复运行中,ID ASR 从 0.482 降至 0.104,OOD ASR 从 0.606 降至 0.115。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开