性能预测仅在候选模型次优时优于自置信基线

性能预测路由的优势取决于候选模型是否次优

资讯摘要

论文研究模型路由中的性能预测问题，以模型对所选答案赋予的概率（自置信）为基线，分析性能预测器能带来多少提升。作者从理论上证明，优于自置信的预测器可通过重校准等量改善模型对数损失，且其优势受模型次优程度与额外参数增益约束；在 16 个语言模型、四个基准上的实验显示，模型越次优，预测器相对自置信的优势越大，经微调提升后优势缩小，两模型级联路由呈现相同规律。

要点速读

1. 论文以模型自置信为基线，研究性能预测器在模型路由中的增益来源
2. 理论结果表明，预测器相对自置信的优势受模型次优程度与额外参数增益限制
3. 16 个模型、四个基准的实验显示：模型越次优优势越大，微调后优势缩小，级联路由同样如此

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。