论文用在线策略蒸馏把生成式 LLM 排序知识迁移到决策模型重排器。
资讯摘要
论文提出 DecisionRank，用物品空间在线策略蒸馏（OPD）把生成式 LLM 的排序知识迁移到决策模型：将学生模型对文档的打分排序成列表，交给生成式教师模型给出条件反馈，直接监督这些分数，并结合离线排序监督。作者报告其在 TREC DL、BEIR、BRIGHT 等检索基准上达到最优表现；1.7B 版本在 TREC DL19–23 上超过 27B 生成式教师，8B 版本超过生成式 listwise 对照，且在 TREC DL 上快 24.5 倍、BRIGHT 上快 16.7 倍。
要点速读
- 论文提出物品空间在线策略蒸馏：把学生模型的文档分数排序成列表，由生成式教师据此给出条件反馈，直接监督分数。
- 作者报告 DecisionRank 在 TREC DL、BEIR、BRIGHT 上达到最优，物品空间 OPD 在四个基准上稳定优于其他训练目标。
- 作者报告 1.7B 版本在 TREC DL19–23 上超过 27B 生成式教师；8B 版本超过生成式 listwise 对照，且在 TREC DL 上快 24.5 倍、BRIGHT 上快 16.7 倍。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。