学习式干预的超额效应多来自目标函数，而非更干净的概念隔离。
资讯摘要
论文关注可解释性中的激活修补方法：将语言模型状态的一部分从一条输入复制到另一条，以输出变化大小衡量该部分是否承载概念。作者指出，学习式方法常比复制整个状态带来更大输出变化，但整体包含部分，这种超额效应来源存疑。论文证明在一阶近似下，正交部分的效应之和等于整体效应；部分超过整体，恰说明其余部分把输出拉回，并不代表更干净地隔离了概念。以更大效应为目标会选出这类部分，例如交叉熵的分布式对齐搜索在多数任务上超过整体复制；仅把目标改为匹配网络自身输出，即可消除大部分超额。
要点速读
- 论文证明，在一阶近似下，正交部分的效应相加等于整体效应；部分超过整体，意味着其余部分把输出拉回。
- 以更大输出变化为目标会选出这类部分；交叉熵的分布式对齐搜索在多数任务上超过整体状态复制。
- 仅将目标改为匹配网络自身输出，即可消除大部分超额效应，说明超额主要来自目标函数。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。