论文提出连续风险景观替代二元越狱评估

论文用连续风险景观替代二元指标评估LLM越狱

资讯摘要

论文指出，LLM 越狱评估通常沿用二元响应指标计算攻击成功率，但生成任务中一个提示会引出开放式轨迹分布，单次采样只反映其中一条路径。作者提出基于首 token 分支的连续、上下文条件风险景观，通过固定候选开头并反复采样其后续内容来估计，并据此分析当前解码器暴露度与安全改道能力。

要点速读

1. 论文提出以首 token 分支为单位的连续风险景观，替代二元攻击成功率指标。
2. 该方法通过固定候选开头、重复采样后续内容来估计风险景观。
3. 作者报告在多个目标模型和越狱攻击上发现看似安全输出下的风险分支，并观察到攻击对模型开头分布的不同重塑方式。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。