论文发现多语言大模型的否定表征可因果控制且跨语言共享。
资讯摘要
论文研究六个开源多语言大模型在英、法、越、中四种语言中的否定表征,使用合成对比数据集和基于 FLORES-200 的否定翻译数据集进行因果干预。作者报告,否定表征可被因果控制且跨语言大体共享:从一种语言提取的对比激活方向能在其他语言中诱导或移除否定,不同语言提取的方向高度对齐;每个模型仅需一个稀疏自编码器(SAE)特征即可跨语言控制极性。稠密与稀疏干预均能泛化到另外四种语言及 FLORES 派生句子,数据与代码已公开。
要点速读
- 研究覆盖六个开源多语言模型及英、法、越、中四种语言,采用因果干预方法。
- 从单一语言提取的对比激活方向可跨语言诱导或移除否定,不同语言方向高度对齐。
- 每个模型单个 SAE 特征即可控制跨语言极性,干预可泛化到另外四种语言与 FLORES 派生句子。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。