推理模型加入路由池后联合收益缩小

推理模型入池后，多模型路由的联合收益远低于小模型池。

资讯摘要

论文在MATH-500上以固定协议测量多模型路由的“任一对即正确”收益：Llama-3.3-70B-Instruct与Nemotron Nano 9B v2、Nemotron Super 49B v1.5共45,000条评分回答。两个推理模型准确率均为96.1%，70B基线为76.2%；两模型和三模型池的实测收益仅0.215–0.588个百分点，远低于此前小模型池的3.5个百分点。作者指出模型、池规模与协议同时变化，报告oracle差距时应注明条件。

要点速读

1. 两个推理模型在MATH-500上均达96.1%准确率，70B基线为76.2%。
2. 两模型和三模型池的实测联合收益为0.215–0.588个百分点。
3. 仅31条回答触及65,536 token上限，但截断回答占某模型输出长度平方代理指标最高60.2%。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。