LoRA 多语言指令微调提升目标语言问答,但增益依任务和语言而异。
资讯摘要
论文介绍 WMT 2026 多语言指令共享任务参赛系统:用 LoRA 适配 Qwen3-8B,训练数据包括组织方数据、经任务保持本地化构建的 EuroAlpaca,以及为指令、上下文和回答分配不同源/目标语言的 CrossEuroAlpaca。系统面向十种共享任务语言的开源问答(QA-OEG)。作者报告,在相同解码设置下,目标语言 QA-OEG 的 Gemma-4 平均评分相对基座模型提升 7.8%;Aya 评测套件上宏平均 ROUGE-L 相对提升 41.5%、BERTScore-F1 提升 2.9%,目标语言增益更大。但增益依任务和语言而异:目标语言 QA-OEG 与摘要提升,上下文问答及非目标语言三项任务下降。
要点速读
- 方法:LoRA 适配 Qwen3-8B,数据含组织方数据、EuroAlpaca 与 CrossEuroAlpaca 跨语言增强。
- 作者报告目标语言 QA-OEG 的 Gemma-4 平均评分相对基座提升 7.8%。
- Aya 评测套件上宏平均 ROUGE-L 相对提升 41.5%、BERTScore-F1 提升 2.9%,但部分任务与非目标语言出现下降。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。