回到最新动态
论文更新 / THE SIGNAL

中文阅读时间与语言模型surprisal的系统分析

A Systematic Analysis of the Predictive Power of LM Surprisal in Reading Chinese

重要性 4.5 AI 辅助整理

surprisal对中文阅读时间的预测力因语料而异,规模效应不一致。

资讯摘要

论文分析语言模型token级surprisal对中文阅读时间的预测力,使用从零训练、30B token的Chinese-Pythia系列(14M–1.4B),在GECO-CN、HKP、MECO三个段落级眼动语料上考察首次注视时长、凝视时长与总阅读时间。作者报告surprisal能预测中文阅读时间,但预测力是否随模型规模与训练量提升因语料而异:GECO-CN上更大模型更好,HKP出现逆缩放,MECO在最大规模也出现逆缩放;surprisal更接近n-gram统计的检查点在HKP和MECO预测更好。

要点速读

  1. 使用Chinese-Pythia(14M–1.4B)在三个中文眼动语料上检验surprisal对阅读时间的预测。
  2. 作者报告surprisal可预测中文阅读时间,与以往零结果不同。
  3. 规模效应因语料而异:GECO-CN正向,HKP与MECO最大规模出现逆缩放;接近n-gram统计的检查点预测更好。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开