安全强化学习评估指标新框架

论文提出安全 RL 评估指标与分级体系，并开源 SafeRLEval。

资讯摘要

论文指出，现有安全强化学习基准多以期望累积成本是否低于安全界来判定算法是否安全，无法反映违规频率与严重程度、跨任务与安全界的一致性，以及训练期行为能否代表最终收敛策略。作者提出一组评估指标与安全分级体系，并在多个安全导航任务上开展实证评估，结果显示聚合指标、分布报告和任务/安全界特定结果各自揭示不同信息，建议三者联合报告。团队同时开源评估套件 SafeRLEval。

要点速读

1. 论文认为仅报告平均安全性不足以刻画算法真实安全性，需覆盖违规频率、严重程度与跨任务一致性
2. 作者提出可跨任务与安全界聚合的评估指标，以及按安全性与可靠性对算法分级的安全 tier 体系
3. 在多个安全导航任务上的实证显示，聚合指标、分布报告与任务特定结果互补，建议联合报告；并开源 SafeRLEval 评估套件

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。