用稀疏自编码器给大模型做“脑扫描”

SAE 可解释并引导模型内部特征，但模型自述解释不可靠。

资讯摘要

一篇论文提出用稀疏自编码器（SAE）对大型语言模型进行“脑扫描”，将内部激活映射为可解释概念，并实现对特定特征的有针对性“引导”。作者报告，提示模型采用特定偏好会激活许多非预期概念，增加因果推断难度；而 SAE 能更平滑、更隔离地引导目标概念。扫描还显示模型内部特征贡献与其自生成解释存在明显脱节，说明这些解释不能可靠反映推理过程。SAE 也为现有模型提供轻量干预，可生成可解释嵌入并减弱特定经济偏见。

要点速读

1. 论文用 SAE 将模型内部激活映射为可解释概念，并支持对特定特征进行引导。
2. 作者报告提示模型采用特定偏好会激活许多非预期概念，而 SAE 的引导更平滑、更隔离。
3. 扫描显示模型内部特征贡献与自生成解释明显脱节，SAE 还可用于减弱特定经济偏见。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。