小模型幻觉与拒答的隐藏状态几何

隐藏状态中的拒答方向可把编造转为拒答，且不损害正确回答。

资讯摘要

论文提出 ConfabQA 基准（784 条），用线性探针、稀疏自编码器（SAE）和直接优化干预方向，研究小模型在不可答问题上选择拒答还是编造。在 Qwen3-1.7B 和 Gemma 2 2B 上，探针区分即将拒答与编造的效果超出提示特征（+7.4/+16.3 个百分点）；沿拒答方向小幅推动可将多数编造转为拒答开头，反向推动则使拒答多变为编造，但原本正确的回答不受影响。作者报告编造在 Qwen3-1.7B 上未对应集中的字典特征或 token 签名，并已发布基准、评判器与代码。

要点速读

1. 论文提出 784 条 ConfabQA 基准，其 obscure-pre-cutoff 类别用于打破正确性与知识截止的混淆。
2. Qwen3-1.7B 与 Gemma 2 2B 上探针区分拒答和编造超出提示特征 +7.4/+16.3 个百分点；Llama 3.2 3B 在 ConfabQA 上差距在折间波动内，但在 PopQA、TriviaQA 上直接拒答探针提升 +18–25 个百分点。
3. 沿拒答方向推动可将多数编造转为以“As...”开头的拒答，反向推动使拒答多变为编造，但原本正确的回答保持不变。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。