回译比继续预训练更有效利用低资源单语数据
资讯摘要
论文探讨在已有少量平行语料时,如何利用低资源语言单语数据提升LLM翻译。作者主张采用回译(BT)而非继续预训练:用微调后的LLM翻译单语句子生成合成平行对,再训练反向翻译,并与平行集更新交替进行。在Odia和Swahili上仅用1K平行对,回译在领域内比继续预训练高7.7至16.4个XCOMET-XXL点,也优于平行数据多10倍的模型。
要点速读
- 论文提出用回译利用低资源单语数据,并与平行集更新交替以稳定学习
- Odia和Swahili上1K平行对时,回译比继续预训练高7.7至16.4个XCOMET-XXL点
- 五种低资源语言、两种3B骨干下,回译较仅平行微调提升16%至173% XCOMET-XXL
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。