来源报告取决于答题时产生的缓存状态,而非文档缓存。
资讯摘要
论文研究语言模型在回答后如何报告答案来源,通过在生成答案后、询问来源前干预模型KV缓存进行实验。在四款7B-32B模型的事实任务中,修改或删除文档缓存不影响来源报告;而移植问答缓存会转移报告,供体报告随之改变。作者报告,沿拟合方向引导问答值可在两个较小模型上逆转98.9%-100%的报告。
要点速读
- 实验在生成答案后、询问来源前干预KV缓存,覆盖四款7B-32B模型。
- 修改或删除文档缓存不改变来源报告,移植问答缓存则使报告跟随供体。
- 在两个较小模型上,沿拟合方向引导问答值可逆转98.9%-100%的报告,随机方向最多翻转1.1%。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。