论文提出按执行可能性加权的 Expected Harm 安全评估指标。
资讯摘要
论文指出，现有 LLM 安全评估多用严重性分类衡量模型对恶意查询的回复，隐含把输出等同于实际危害，却忽略“执行可能性”这一条件概率。作者提出 Expected Harm 指标，按执行成本建模执行可能性并对越狱严重性加权。对前沿模型的实证分析发现系统性“逆风险校准”：模型对低可能性（高成本）威胁拒绝更强，对高可能性（低成本）查询仍脆弱。线性探针显示拒绝机制按严重性而非执行可能性区分查询；借助 Olmo-3 开放分阶段检查点，作者将错校准归因于 SFT 数据分布（82.8% 安全样本处于成本 0–1 级），并称利用该性质可将现有越狱攻击成功率最高提升 2 倍。
要点速读
- 论文提出 Expected Harm 指标，用执行可能性对越狱严重性加权，替代仅按严重性分类的评估方式。
- 实证发现逆风险校准：模型对高成本低可能性威胁拒绝更强，对低成本高可能性查询仍易被攻破。
- 作者用 Olmo-3 开放检查点将问题追溯至 SFT 数据分布，并报告利用该性质可使现有越狱成功率最高提升 2 倍。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。