surprisal对中文阅读时间的预测力因语料而异,规模效应不一致。
资讯摘要
论文分析语言模型token级surprisal对中文阅读时间的预测力,使用从零训练、30B token的Chinese-Pythia系列(14M–1.4B),在GECO-CN、HKP、MECO三个段落级眼动语料上考察首次注视时长、凝视时长与总阅读时间。作者报告surprisal能预测中文阅读时间,但预测力是否随模型规模与训练量提升因语料而异:GECO-CN上更大模型更好,HKP出现逆缩放,MECO在最大规模也出现逆缩放;surprisal更接近n-gram统计的检查点在HKP和MECO预测更好。
要点速读
- 使用Chinese-Pythia(14M–1.4B)在三个中文眼动语料上检验surprisal对阅读时间的预测。
- 作者报告surprisal可预测中文阅读时间,与以往零结果不同。
- 规模效应因语料而异:GECO-CN正向,HKP与MECO最大规模出现逆缩放;接近n-gram统计的检查点预测更好。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。