论文称短后缀可跨任务翻转 Jev 90–100% 样本。
资讯摘要
论文针对类型化决策模型 Jev 提出一种快速黑盒查询式攻击 FlipJev，不调用攻击方语言模型。作者在 12 个数据集上实验，报告常见提示注入在 10240 组配对测试中均未改变正确答案，而该攻击可在数分钟内找到翻转高置信答案的短后缀；每个数据集一个后缀可翻转 43% 未见文档，且从一项任务生成的后缀在其他任务上可翻转 90–100% 样本。
要点速读
- 论文提出黑盒查询式攻击 FlipJev，不依赖攻击方语言模型，在 12 个数据集上测试 Jev。
- 作者报告常见提示注入策略在 10240 组配对测试中未改变正确答案，而 FlipJev 数分钟内找到可翻转高置信答案的短后缀。
- 这些后缀具有通用性：每个数据集一个后缀可翻转 43% 未见文档，跨任务迁移时可翻转其他任务 90–100% 的样本。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。