论文发布拉丁语编码器 LAMB 及两个拉丁语语料，17 个子任务中 16 项领先。
资讯摘要
论文提出基于 ModernBERT 架构的拉丁语编码器 LAMB，用逾 740 亿拉丁语 token 分两阶段预训练，并采用形态学驱动的掩码方案。作者同时发布 Acervus 语料（240 亿 BERT WordPiece token，含经 ByT5 修复的 OCR 文本）和首个拉丁语语义三元组数据集 Corpus Trinum。在 5 项任务、17 个子任务的评测中，LAMB 在其中 16 项优于其他被测模型。
要点速读
- LAMB 基于 ModernBERT，用超过 74B 拉丁语 token 分两阶段预训练，采用形态学掩码方案。
- Acervus 含 24B BERT WordPiece token，其中超 76 万条受损 OCR 样本由 ByT5 模型修复。
- Corpus Trinum 含超 1 亿强弱拉丁语语义三元组，为首个拉丁语语义三元组数据集；LAMB 在 17 个子任务中 16 项领先。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。