论文发现NLA解释能识别激活，却难判别细微虚假解释。
资讯摘要
论文将自然语言自编码器（NLA）的训练与部署形式化为两种不同的指称博弈：训练是生成式指称博弈，监控则是判别式、多模态、部分可观测的指称博弈。作者据此推断，激活解释器（AV）能识别其描述的是哪个激活，却难以区分真实解释与高度接近的虚假解释。作者用NLA自身的激活重建器（AR）作为替代监控模型，在一个已发布检查点上实验：真实解释在全部320次比较中胜过其他激活的解释，但仅以60.2%的比例胜过只改动单一说法的流畅对手（标准误6.7%，n=35）。
要点速读
- 论文把NLA训练与监控部署形式化为生成式与判别式两种指称博弈，并据此预测解释的识别与判别能力存在差距。
- 在一个已发布检查点上，真实解释在全部320次比较中胜过其他激活的解释，但仅60.2%胜过单点改动的流畅对手（标准误6.7%，n=35）。
- 无关模型做保义改写仅消耗到另一激活解释距离的2.1%，作者认为失败并非源于AV解释形成私有约定；对手解释只测试对话层面的真值，未涉及被监控模型自身处理过程的说法。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。