循环语言模型的自适应停止：选择规则决定比较结果

停止方法的优劣取决于选择规则，而非仅信号本身。

资讯摘要

论文研究循环语言模型的自适应停止方法，指出不同方法常被简化为由选择规则决定的单一工作点。作者在冻结的 Ouro-1.4B（四轮循环）上，将训练得到的稳定性探针 π₁-x 与 Ouro 原生门控对比，并适配为逐题停止决策。预注册确认实验在 8,517 题密封测试集上评估一次：在 bootstrap 筛选的 1 个百分点精度损失规则下，探针比原生门控节省更多四轮预算（三项基准总宏平均节省 +0.053，95% CI [+0.049, +0.057]），主要来自 CommonsenseQA，但该处探针精度损失上界超过 1 个百分点。

要点速读

1. 预注册确认比较中，探针相对原生门控的总宏平均节省为 +0.053（95% CI [+0.049, +0.057]），主要来自 CommonsenseQA。
2. 同一测试集上，仅按点估计的选择规则使偏好反转（-0.022 [-0.026, -0.018]），且工作点超出预算。
3. 预设次要比较中，探针相对未训练的相邻循环 KL 散度无已证优势（+0.00125 [-0.0041, +0.0065]）；探针在 Social IQa 上损失 3.26 个百分点。节省由存储的全深度轨迹估算，非实测推理时间。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。