论文比较小型编码器联合与逐选项打分，逐选项更准但前向次数更多。
资讯摘要
论文研究用于闭集决策（如选择工具）的小型编码器能有多小，以及应联合读取选项还是分别读取。在3200万参数、三个随机种子的实验中，逐选项打分在37项基准决策套件的留出样本上，相同优化步数下比联合打分高5.8个机会校正技能点，训练算力大致相同时高2.8点；两个外部基准结果一致，但在未见任务上不显著。作者报告逐选项优势依赖重排序器初始化。逐选项打分需多5至13倍编码器前向，中位延迟至多两倍、均值超四倍。六个已发布联合编码器（1700万至10亿参数）中，6800万和1.5亿参数模型在209项重叠审计的System1-Arena任务上分别超过4.35亿参数DeBERTa-v3零样本分类器4.9和5.9个准确率点，在145项训练未见任务上至少持平；最小模型在16线程上中位请求14毫秒，分类器为728毫秒。重排选项会改变联合模型12%至23%的答案，逐选项打分则不受影响。
要点速读
- 3200万参数下，逐选项打分在37项决策套件留出样本上比联合打分高5.8个机会校正技能点（相同优化步数），训练算力大致相同时高2.8点。
- 逐选项打分需多5至13倍编码器前向，中位延迟至多两倍，均值超四倍。
- 6800万和1.5亿参数联合编码器在209项System1-Arena任务上分别超过4.35亿参数DeBERTa-v3零样本分类器4.9和5.9个准确率点；最小模型中位延迟14毫秒对728毫秒。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。