预训练投毒可在智能体中植入后门

0.1% 预训练投毒即可在智能体中植入代码执行后门

资讯摘要

论文提出，攻击者可通过在预训练语料中植入投毒内容，在智能体中埋下远程代码执行后门。作者从零预训练 Qwen3 的 0.6B、1.7B、4B 模型，再用干净流程后训练为 CLI 智能体；仅投毒 0.1% 预训练语料即可植入后门，触发时执行恶意命令，干净输入下表现正常。4B 模型在 0.1% 投毒率下攻击成功率约 92%，投毒率降至 0.0005% 仍为正。

要点速读

1. 作者从零预训练 Qwen3 0.6B、1.7B、4B，并用干净流程后训练为 CLI 智能体
2. 仅投毒 0.1% 预训练语料即可植入后门，触发时执行攻击者选定命令
3. 4B 模型在 0.1% 投毒率下 ASR 约 92%，0.0005% 投毒率下仍为正

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。