TaxoSAE：用分类学逻辑重构稀疏自编码器

TaxoSAE 将分类学上下位关系编码进 SAE 特征空间。

资讯摘要

论文提出 TaxoSAE，将基于 is-a（上下位）关系的分类学信息显式编码进稀疏自编码器（SAE）特征空间。方法用按分类层级堆叠的多个 SAE 对应分类树，并引入分类对齐损失，使某概念的下位词激活时该概念也被激活。作者在两个事实问答分类体系上报告：抽象概念上位词读出提升 31.3 分，概念替换成功率提升 25.5 分，抑制某概念仅影响其自身答案，并可通过上位词读出未见概念，最高提升 37.9 分。

要点速读

1. TaxoSAE 以按分类层级堆叠的 SAE 和分类对齐损失，将 is-a 上下位关系编码进特征空间。
2. 在传记关系与动物两个事实问答分类体系上，作者报告上位词读出提升 31.3 分、概念替换成功率提升 25.5 分。
3. 抑制某概念时仅其自身答案准确率降至 0–2%，其他概念保持 91–100%；借助上位词读出未见概念最高提升 37.9 分。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。