AdaGuard：支持用户自定义策略的自适应防护模型

论文提出可按用户策略评估智能体行为的 AdaGuard 防护模型系列。

资讯摘要

论文提出 AdaGuard，一组 0.6B、4B、8B 的防护模型，可在推理时依据用户提供的策略评估语言模型智能体的轨迹。作者构建 AdaptiveSafety 数据集，含 10,939 条训练样本和 1,000 条测试样本，覆盖 1 至 100 条规则的策略，并配策略与行为反事实、解释及完整违规规则集。基于该监督，作者提出强化学习算法 SafePO，结合监督初始化训练模型。作者报告 4B 模型在 AdaptiveSafety 上二分类准确率 89.30%，在 DynaBench 上为 71.82%。

要点速读

1. AdaGuard 含 0.6B、4B、8B 三个规模，在推理时接收用户自定义策略并评估智能体轨迹。
2. AdaptiveSafety 数据集含 10,939 条训练样本与 1,000 条测试样本，策略规则数为 1 至 100。
3. SafePO 为强化学习算法，使用结构化奖励与单独训练的价值模型调节解释和裁决区域的 token 权重；作者报告 4B 模型在 AdaptiveSafety 上准确率 89.30%，DynaBench 上 71.82%。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。