RePolicy：学习选择并应用安全策略的智能体防护

RePolicy 让防护模型先选对安全策略再判断行为是否安全。

资讯摘要

论文提出 RePolicy，一种联合学习策略选择与安全评估的智能体防护方法：给定智能体轨迹和候选策略集，先选出最匹配当前情境的策略，再依据其要求判断行为是否安全。作者构建了含逾 2 万条轨迹、标注适用策略与安全标签及解释的 PolicyTraj-20K 数据集，采用监督示范加强化学习训练，并随机化策略顺序、标识与干扰项以减少捷径学习。作者报告在六个智能体安全基准、19 个基线上，RePolicy-4B 取得领先的整体安全检测表现并提升策略选择准确率。

要点速读

1. 论文指出既有策略感知防护默认正确策略已知，未学习从策略库中选择策略。
2. 作者构建 PolicyTraj-20K 数据集，含 2 万余条智能体轨迹及适用策略、安全标签与解释。
3. 作者报告 RePolicy-4B 在六个基准、19 个基线上整体安全检测领先，策略选择准确率提升。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。