论文用标记条件化替代抹除，兼顾拒答危险问题与保留通用能力。
资讯摘要
论文提出 Token Inoculation 方法：在继续预训练阶段用特殊 token 标记危险句子，再微调模型拒答危险问题，并在同一问题带标记时预测危险答案；测试时标记缺失，模型不输出已学会的危险答案。作者报告在1.5B至14B参数、三种架构上危险准确率维持在约18%，同时保留 instruct 基线93%的 MMLU 表现。
要点速读
- 方法核心是条件化而非抑制：用 inoculation token 标记危险语句，训练模型在标记存在时预测危险答案、无标记时拒答。
- 作者报告在1.5B至14B参数和三种架构家族上，危险准确率接近18%，并保留 instruct 基线93%的 MMLU 性能。
- 作者用因果 do(X) 分析随机化条件信号准确率，称模型保留的危险领域知识越多，拒答越具选择性。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。