论文让模型在预测下一词时同时优化语义奖励。
资讯摘要
论文提出 Conceptizer 训练框架，在下一词预测之外增加对“含义”的奖励。它使用约 9K 个由上下文同义词构成的固定概念词表，将下一词分布映射为概念分布，把目标含义的奖励分摊到多种可能措辞上，且不增加模型参数。作者在 1B–8B 参数的 3 个模型家族上报告：概念目标位置上的留出 NTP 困惑度最低，对上下文同义词赋予最高概率，并在知识与情感任务上提升下游表现，常识任务持平。
要点速读
- Conceptizer 用约 9K 个上下文同义词概念作为语义单元，与 token 并行，不增加模型参数。
- 在 1B–8B 参数的 3 个模型家族上，作者报告其留出 NTP 困惑度最低，且对上下文同义词概率最高。
- 下游知识与情感任务表现提升，常识任务与基线相当。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。