大语言模型中的“知道感”研究

论文用双通道训练让模型判断自身知识状态更准。

资讯摘要

论文研究大语言模型在训练后知识更新时，回答能力与可回答性判断可能脱节的问题，提出功能性“知道感”（FoK）概念，并设计知识通道与FoK通道两条可训练路径。作者用OP-SFT、KΔ-FT和FGPO三阶段训练，在事实问答、跨数据集评估和三次连续更新中报告，显式FoK对齐能改善模型对更新知识的判断质量，并用MMLU与ARC-Easy评估能力保持情况。

要点速读

1. 论文提出功能性“知道感”（FoK），用于选择性生成、检索触发和模型路由，不涉及主观体验。
2. 作者设计知识通道与FoK通道，并以OP-SFT、KΔ-FT、FGPO三阶段训练。
3. 事实问答与三次连续更新实验显示，显式FoK对齐提升了更新知识上的判断质量。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。