语言模型层级泛化的跨语言迁移

语言模型跨语言迁移层级结构证据仅部分成功，且依赖词汇重叠。

资讯摘要

论文提出跨语言刺激贫乏（CPOS）实验设计，考察语言模型能否将源语言（L1）中的层级结构证据迁移到新语言（L2）。作者报告模型只能部分而非完美地迁移，仅产生微弱但可检测的层级偏好，且迁移强度因语言对而异；词汇重叠对层级句法泛化的跨语言迁移至关重要，可解释语言对差异。

要点速读

1. 论文提出跨语言刺激贫乏（CPOS）设置，控制 L1 中层级规则的正向证据量，令 L2 语料在线性与层级语法规则间存在歧义。
2. 作者报告模型可将 L1 结构证据部分迁移至 L2，仅形成微弱但可检测的层级偏好，迁移强度取决于语言对。
3. 消融实验发现词汇重叠对层级句法泛化的跨语言迁移同样关键，作者认为新语言持续学习中的语言证据迁移只是有条件可实现。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。