封禁输出通道无法消除隐性特质，修补写入回路可阻断传递。
资讯摘要
一篇论文研究“阈下学习”：用其他模型输出训练的语言模型，会获得输出中从未提及的特质，如通过数字列表传递的动物偏好。作者在两个压力测试中逐一封禁特质出口，涉及两个模型、六种输出格式和16种特质，发现封禁并未消除特质，而是让它转移到格式仍允许的位置，称为“气球效应”。作者将这种传递分解到单个注意力头和神经元，并报告在教师模型写数字时修补写入该特质的回路，可阻断链条、明显减少名称泄漏，并将传给学生的特质减半。
要点速读
- 论文在偏好链和名称链两类压力测试中逐一封禁特质出口，覆盖两个模型、六种输出格式和16种特质。
- 封禁未消除特质，特质转移到格式仍允许的位置，作者称之为“气球效应”。
- 作者报告修补将特质写入输出的回路可阻断链条、明显减少名称泄漏，并将传给学生的特质减半。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。