扩散语言模型用于困惑度感知黑盒攻击

扩散语言模型让黑盒攻击提示更自然、困惑度大幅下降

资讯摘要

论文提出将连续潜空间黑盒攻击框架直接耦合到学习得到的连续扩散语言模型（dLLM），以替代原先未从语言中学习的随机映射，同时保留标准高斯潜变量形式及下游采样或优化流程。作者在 RareTrap 采样估计与 ThinkTrap 优化搜索两种设置下评估，报告字符级困惑度分别从 10³–10⁷ 降至 3–5、从 20–28 降至 4.3–5.4，并发现两种映射下的模型风险估计可相差一个数量级。

要点速读

1. 用连续扩散语言模型替换随机映射，保留标准高斯潜变量与采样/优化流程
2. RareTrap 中字符级困惑度由 10³–10⁷ 降至 3–5，ThinkTrap 中由 20–28 降至 4.3–5.4
3. 作者报告两种映射下的模型风险估计可相差一个数量级

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。