Markdown技能文件可成为智能体越狱注入通道,平均攻击成功率升至45%。
资讯摘要
论文研究智能体框架中用户提供的Markdown技能文件(如SKILL.md)是否可成为越狱注入通道。作者构建基于LangChain的问答智能体,将结合人格操纵与GPTFUZZER攻击的越狱嵌入技能文件,在7个开放权重模型、9类共270个禁止问题上测试。良性系统提示下平均攻击成功率仅0.5%,注入后升至45%,单模型最高68.9%。两种混淆载荷均未优于明文注入,语音变体降至30%。
要点速读
- 论文在7个当代开放权重模型上测试,覆盖9类危害共270个禁止问题。
- 良性系统提示下平均攻击成功率为0.5%,注入技能文件后升至45%,单模型最高68.9%。
- 零宽字符隐蔽载荷与基于字素到音素转换的语音载荷均未超过明文注入,语音变体平均ASR降至30%。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。