ThinkJev 用统计检验决定何时思考,兼顾准确率与 token 成本。
资讯摘要
论文提出 ThinkJev,用同一个开放混合思考模型构建快慢两套系统:直接回答时读取选项字母概率,思考后再读同一缓存提示上的字母概率,从而按需升级且不重复计算。无需训练,仅凭带标签开发集上的统计检验决定何时让快系统单独作答。作者报告在 5% 目标错误率下,Qwen3.5-27B 对 8359 个测试决策中的 24.5% 直接作答,实际错误率 3.9%;其余决策在思考中置信即停,准确率 81.6%,消耗 72% 的思考 token。
要点速读
- ThinkJev 由同一开放混合思考模型构建快慢两系统,升级时复用缓存提示,不重复计算。
- 在 5% 目标错误率下,Qwen3.5-27B 直接作答 24.5% 的测试决策,实际错误率 3.9%。
- 其余决策在思考中置信即停,准确率 81.6%(始终思考为 82.7%),使用 72% 的思考 token。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。