小模型开放推理的测试时扩展研究

小模型投票在数学题有效，开放式文本几乎无增益。

资讯摘要

论文在小模型规模上研究测试时扩展对开放式推理的作用，提出无需奖励模型或自评判的语义聚类投票聚合器，按语义对样本分组并返回最大簇代表。在含250条提示、答案可验证性分三档的基准上，Qwen2.5-3B、Llama-3.2-3B、Gemma-2-2B三个模型家族与两个生成种子结果一致：数学对照任务准确率提升10至29点，开放式文本至多提升0.30评判分。作者认为开放式样本几乎都落入同一语义簇，缺乏可选择的多样性，且提高解码温度得不偿失。

要点速读

1. 论文提出语义聚类投票，无需奖励模型或自评判，按语义分组后返回最大簇代表。
2. 250条提示基准上，三个模型家族数学对照提升10至29点，开放式文本至多提升0.30评判分。
3. MATH-500上主模型数学提升8.5点（95% CI [+4.0, +13.0]）；提高解码温度净降0.64评判分。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。