语法约束解码本身可被利用越狱LLM生成恶意代码
资讯摘要
论文指出，用于提升代码可靠性的语法约束解码（GCD）本身可成为攻击面。作者提出CodeSpear攻击，仅施加良性代码语法约束即可越狱LLM生成恶意代码；并给出CodeShield安全对齐方法，在攻击者控制语法约束时仍保持安全行为。作者报告在10个主流LLM、4个基准上，CodeSpear平均将攻击成功率提升30个百分点以上，CodeShield可恢复安全性并保留良性效用。
要点速读
- 论文揭示语法约束解码（GCD）可被CodeSpear攻击利用，仅施加良性代码语法约束即可越狱LLM生成恶意代码
- 作者提出CodeShield，通过让模型在GCD下生成语义无害、结构多样的蜜罐代码来保持安全行为
- 作者报告在10个LLM、4个基准上，CodeSpear平均提升攻击成功率超30个百分点，CodeShield可恢复安全性并保留良性效用
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。