冻结模型单次前向即可同时完成作答与弃答判断。
资讯摘要
论文提出 YOPO，在不改动冻结语言模型权重的前提下，于残差流上同时实现作答与弃答。小型探针网络在中间层注入输入相关向量提升准确率，固定方向向量依据隐藏状态判断上下文是否可答；针对探针编辑干扰弃答评分的问题，作者用无标签小映射还原未编辑隐藏状态，并称该做法也可修复 LoFiT、LoReFT。
要点速读
- 探针在多个中间层向残差流加入输入相关向量，作者报告使 Qwen2.5-1.5B 在 αNLI 上从 51% 提升到 73% 准确率。
- 弃答方向由含答案与不含答案上下文的平均隐藏状态之差构成，低分即弃答；在 Qwen2.5-7B 四个带人工可答性标签的 QA 数据集上，跨数据集迁移平均损失不到 3 个决策准确率点。
- 无标签小映射可去除 63% 的探针编辑对弃答评分的干扰（1.5B）；YOPO 在 αNLI 上把三分类准确率从 0.38 提到约 0.75，并在 1.5B、3B、7B 上与两遍参考相差 0.02 以内、成本减半。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。