SAE 抑制 PII 泄漏的评估缺陷

仅看对数概率下降无法验证 SAE 干预是否真正抑制 PII 泄漏。

资讯摘要

论文指出，基于 SAE 特征干预抑制大模型 PII 泄漏的研究多以对数概率下降作为评估标准，但该标准无法区分特征特异性抑制与幅度伪影。作者在 36 个（模型、层、PII 类型）案例中对比选定 SAE 特征与连贯性匹配的随机方向对照，仅用对数概率评估时 17 例（47%）看似成功，多指标框架下仅 1 例（2.8%）通过。论文还报告 9000 次因果中介可行性研究，并提出以电路级定位和因果中介分析实现因果可验证的 PII 抑制。

要点速读

1. 论文称对数概率下降无法区分特征特异性抑制与足够大激活扰动带来的方向无关幅度效应。
2. 36 个案例中，仅对数概率评估有 17 例（47%）看似成功，多指标框架下仅 1 例（2.8%）通过。
3. 9000 次因果中介可行性研究显示验证器能可靠区分候选，但相关性筛选出的候选很少通过。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。