LLM路由与级联的统一框架

论文提出统一路由与级联的理论最优框架cascade routing。

资讯摘要

论文针对现有LLM模型选择策略（路由与级联）缺乏最优性证明、未明确适用条件、无法结合两种范式的问题，推导出新的级联最优策略并证明现有路由策略的最优性，提出统一框架cascade routing。作者报告实验显示该框架大幅优于单独方法，并指出质量估计器是模型选择成功的关键因素。

要点速读

1. 论文指出现有路由与级联策略存在三点局限：缺乏最优性证明、未识别最有效条件、无法结合两种范式。
2. 作者推导新的级联最优策略，证明现有路由策略的最优性，并提出统一框架cascade routing。
3. 实验显示cascade routing持续大幅优于单独方法，作者将质量估计器视为模型选择范式的关键因素。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。