Agaram 2.5B：从零训练的泰米尔语优先模型

Agaram 2.5B 从零训练泰米尔语优先模型并以 Apache-2.0 开源权重。

资讯摘要

论文提出 Agaram 2.5B，一个从零训练的泰米尔语优先语言模型，可用泰米尔文、罗马化 Tanglish 和英语对话并调用工具。作者报告其新基座为 2.53B 参数、在 500 亿 token 上预训练（58% 为泰米尔语），分词器每个泰米尔语词需 1.55 个 token，而 Qwen2.5 需 9.44 个。监督微调基于 222,662 条记录重建，模型在六项翻译方向上的 FLORES chrF 均高于 Sarvam-1，工具选择与参数匹配也有报告。基座与对话权重及 GGUF 以 Apache-2.0 发布。

要点速读

1. 新基座 2.53B 参数，500 亿 token 预训练，其中 58% 为泰米尔语；分词器每泰米尔语词 1.55 token，Qwen2.5 为 9.44。
2. 监督微调在 222,662 条记录上重建；作者报告六项翻译方向 FLORES chrF 均高于 Sarvam-1（入泰米尔语 56.9、入英语 55.4）。
3. 在 25 条工具提示上均选中预期工具、16 条参数完全正确；LLM 评审在 100 条密封人工提示上净偏好 +30 点。事实知识与有害请求拒答仍为待解问题。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。