论文称固定片段顺序并非最优，重排可减少 prefill 计算。
资讯摘要
论文指出，LLM 服务按精确前缀匹配复用 KV 缓存，而提示由检索段落、工具定义等可复用片段拼装时，片段顺序决定可共享的计算量；现有系统用单一全局顺序固定排列，论文证明该做法仅在请求含至多两个片段时最优，一般情况下渐近错误。作者给出结构定理，将最小前缀树代价等价于请求上的二元层级选择，并据此提出 O(3^m) 精确算法。
要点速读
- 论文证明单一全局片段顺序仅在请求最多含两个片段时最优，一般情况下渐近错误。
- 结构定理把选择片段顺序等价为在请求上选择一个二元层级，并给出 O(3^m) 精确算法。
- 在三个 BEIR 语料的 BM25 检索轨迹上，作者报告新布局相较生产 RAG 排序将 prefill 减少 17–36%，且差距随检索深度扩大。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。