论文用蒸馏把 Jev 的示例效用判断迁移到轻量 MLP。
资讯摘要
论文探讨决策导向语言模型 Jev 能否改进上下文学习（ICL）的示例检索。作者报告，Jev 可直接评估候选示例对给定查询的效用，从而提升检索效果；但大规模检索时每个候选都需额外决策推理，开销较大。为此论文提出知识蒸馏方法，将 Jev 的效用估计能力迁移到轻量 MLP，以实现高效示例排序并保持有竞争力的检索性能。
要点速读
- 论文提出用 Jev 直接评估候选示例对查询的效用，以改进 ICL 示例检索。
- 作者指出大规模应用 Jev 会带来额外决策推理的计算开销。
- 论文用知识蒸馏把 Jev 的效用估计迁移到轻量 MLP，实现高效排序。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。