回到最新动态
研究论文 / THE SIGNAL

多语言大模型中的否定表征:因果分析

"Not" is Not Lost in Translation: A Causal Analysis of Negation Representations in Multilingual LLMs

重要性 5.5 AI 辅助整理

论文发现多语言大模型的否定表征可因果控制且跨语言共享。

资讯摘要

论文研究六个开源多语言大模型在英、法、越、中四种语言中的否定表征,使用合成对比数据集和基于 FLORES-200 的否定翻译数据集进行因果干预。作者报告,否定表征可被因果控制且跨语言大体共享:从一种语言提取的对比激活方向能在其他语言中诱导或移除否定,不同语言提取的方向高度对齐;每个模型仅需一个稀疏自编码器(SAE)特征即可跨语言控制极性。稠密与稀疏干预均能泛化到另外四种语言及 FLORES 派生句子,数据与代码已公开。

要点速读

  1. 研究覆盖六个开源多语言模型及英、法、越、中四种语言,采用因果干预方法。
  2. 从单一语言提取的对比激活方向可跨语言诱导或移除否定,不同语言方向高度对齐。
  3. 每个模型单个 SAE 特征即可控制跨语言极性,干预可泛化到另外四种语言与 FLORES 派生句子。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开