回到最新动态
研究论文 / THE SIGNAL

S-EDL:从序列似然中提取自证据以校准LLM语义

S-EDL: Eliciting Self-Evidence from Sequence Likelihoods for Semantic Calibration of LLMs

重要性 5.0 AI 辅助整理

S-EDL用序列似然做开放生成语义校准,作者报告误差下降。

资讯摘要

论文提出S-EDL,一种面向开放生成场景的语义校准方法。作者指出,现有校准技术针对固定选项分类置信度或单字符串正确性,难以处理同一语义可由多条不同token序列表达的情况。S-EDL从模型自身序列似然中提取证据,构建可微的Dirichlet先验,在可变语义类别上优化证据损失,无需固定选项。作者报告在四个开放基准和三个模型上降低了语义校准误差并提升准确率,代码已公开。

要点速读

  1. 论文提出S-EDL,利用模型序列似然构建可微Dirichlet先验,实现语义层面的校准训练。
  2. 方法不依赖固定多选题选项,可覆盖可变数量的语义类别。
  3. 作者报告在四个开放基准、三个模型上语义校准误差下降且准确率提升,代码已在GitHub公开。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开