小数据语言学习取决于训练环境来源与预测目标的匹配程度。
资讯摘要
论文在BabyView密集家庭录音的儿童语音转写和合成儿童导向对话TinyDialogues上训练小型GPT-2模型，考察数据量、来源与多样性的影响。作者报告：仅用单个儿童语言环境训练的模型，对该环境的预测明显优于其他儿童环境，且这种专门化多可由简单5-gram模型复现（r=.91）；使用多个儿童的数据能改善对汇总留出语言的预测，但在语法基准上未见同样清晰的提升。
要点速读
- 论文用BabyView家庭录音转写和TinyDialogues合成对话训练小型GPT-2，改变训练数据的数量、来源与多样性。
- 作者报告：单儿童环境训练的模型对该环境预测更好，5-gram模型可复现跨儿童模式（r=.91）。
- 多儿童数据改善汇总留出语言预测，但语法基准上无同样清晰提升；自然与合成输入在不同语法现象上表现不同。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。