扩散语言模型的自增强检索框架SARDI

扩散模型去噪中间态可指导检索，且检索利于并行解码。

资讯摘要

论文提出SARDI，一种面向扩散语言模型的动态RAG框架。作者观察到去噪中间状态会较早浮现关键实体，可作检索的前瞻信号；而用检索证据约束生成能显著降低token间依赖，利于并行解码。SARDI无需训练、不依赖特定检索器，适用于具备推理能力的离散扩散语言模型。作者报告在五个多跳问答基准上，其表现优于免训练的扩散与自回归检索基线，吞吐量最高达4倍。

要点速读

1. 论文利用扩散去噪中间状态中的实体作为检索前瞻信号
2. SARDI免训练、检索器无关，适用于推理型离散扩散语言模型
3. 作者报告在五个多跳QA基准上优于免训练基线，吞吐最高4倍

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。