决策模型概率可排序正确选项,但阈值无法识别正确选项集合。
资讯摘要
论文评估 Jev、Liquid d1 和 GPT-6 Luna Decisions 三个决策模型在 MetaTool、HotpotQA、ECtHR 三个数据集上的概率分配与阈值处理。作者报告,即使模型把所有正确选项排在干扰项之上,在 28% 至 50% 的列表中仍至少有一个正确选项的概率低于均匀概率 1/n;给模型五个相同的正确选项副本时,平均概率差距达 17 至 79 个百分点。论文据此指出,概率阈值无法识别正确选项集合。
要点速读
- 论文在三个数据集上评估 Jev、Liquid d1、GPT-6 Luna Decisions 的概率分配与阈值处理。
- 作者报告:即使正确选项全部排在干扰项之上,28%–50% 的列表中仍有正确选项概率低于 1/n。
- 五个相同正确选项副本的平均概率差距为 17 至 79 个百分点,概率阈值不能识别正确选项集合。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。