论文用Wasserstein距离统一SAE特征匹配与电路压缩。
资讯摘要
论文提出一种分布框架，用于估计不同激活流形上稀疏自编码器（SAE）特征之间的语义距离。该方法不再用单一解码向量表示特征，而是用激活加权分布表示，并投影到共享参考空间后用Wasserstein距离比较，从而统一处理跨层特征匹配与特征电路压缩。作者报告该方法在实验中优于解码向量和基于LLM的基线，并能自动将大型特征电路压缩为可解释超节点。
要点速读
- 论文将跨层SAE特征匹配与大型特征电路压缩统一为语义距离估计问题。
- 方法以激活加权分布表示特征，投影到共享参考空间后用Wasserstein距离比较。
- 作者报告该方法优于解码向量和LLM基线，并可自动压缩特征电路为可解释超节点。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。