回到最新动态
论文更新 / THE SIGNAL

JEV蕴含重排序:跨度读出与选择性适配

Improving JEV Entailment Reranking with Span Readouts and Selective Adaptation

重要性 4.5 AI 辅助整理

选择性适配加均值跨度池化提升JEV重排序准确率并减少参数

资讯摘要

论文研究JEV决策模型在跨请求蕴含重排序中的读出与适配选择。作者将均值跨度读出与选择性主干适配结合:均值跨度池化取NLI选项内上下文状态的平均值,不增加头部参数;选择性适配保留注意力和门控DeltaNet投影的低秩更新,移除前馈适配器。在MC11上,选择性适配使NeoHorse-1-4B准确率超过全模块基线,可训练参数减少一半以上,均值跨度池化在相同参数下带来一致增益。

要点速读

  1. 论文比较直接选择与蕴含重排序两种JEV决策方式,考察原有读出与适配选择是否适用于跨请求重排序。
  2. 均值跨度池化用NLI选项内上下文状态的平均值替代选项结尾指针,且不增加头部参数。
  3. 在MC11上,选择性适配使NeoHorse-1-4B准确率超过全模块基线,可训练参数减少一半以上。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开