受控符号探针可找出影响自然语言决策的紧凑注意力头集合。
资讯摘要
论文提出受控证据聚合（CEA）方法：在其余提示固定的情况下改变两个符号的数量与顺序，用两个答案token的logit差衡量冻结Transformer的偏好，并提出平衡效用因果选择（BUC）筛选紧凑注意力头集合。作者报告在Pythia-410M中，按四种顺序情形分别选出的1至12个头被消融后，可去除65.5%至91.6%的数量效应；仅用符号是/否提示选出的8个头被消融后，自然语言任务平均准确率下降8.2个百分点，随机头集合仅下降0.8个百分点。
要点速读
- CEA通过改变两个符号的数量和顺序、测量答案token的logit差，考察注意力头对模型决策的影响。
- BUC联合评估消融输出去除数量效应的程度与均值输出修补在两个方向上恢复效应的程度，以选出紧凑头集合。
- 在Pythia-410M中，消融1至12个选定头可去除65.5%至91.6%的数量效应；消融8个仅由符号提示选出的头使自然语言任务准确率下降8.2个百分点，随机集合为0.8。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。