模型能表征问题不可答，但安全拒答通路未对齐使用该信号。
资讯摘要
论文研究大模型为何会回答结构上不可答的问题（如计算cot(-540°)或判断(1).startswith("1")），而非选择弃答。作者在1.7B至70B参数的指令微调模型中发现，隐藏状态中存在单一线性方向可区分可答与结构不可能的数学、代码提示，说明模型在生成前已表征出不可能性；但该识别方向与介导有害内容拒答的规范安全拒答方向近乎正交。生成时沿识别方向引导可双向、剂量依赖地改变无效性感知行为，随机方向则无效。作者据此认为，这更可能是路由失败而非编码失败。
要点速读
- 在1.7B至70B指令微调模型中，隐藏状态的单一线性方向可区分可答与结构不可能的数学和代码提示。
- 该识别方向与安全拒答方向近乎正交，领域内行为定义的无效性感知方向也仅部分对齐。
- 生成时沿识别方向引导可剂量依赖地改变行为，随机方向无效；基座与指令模型对比显示该几何在预训练终点已存在。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。