DConstrain 用编译式约束解码提升扩散语言模型的结构化输出效率与准确率。
资讯摘要
论文提出 DConstrain,将 schema 编译为上下文参数化的转移程序,用于扩散语言模型(DLM)的约束解码。冷编译把 token 消耗特化到局部语法状态,并以符号方式保留依赖上下文的栈操作与延迟解析;运行时热编译绑定已到达的配置以构造精确后继,且可与模型前向计算重叠。作者报告在三个基准和两个 DLM 家族上,BFCL schema 在任意属性顺序下编译率达 100%,端到端解码延迟降低 6.65–46.26 倍,DiffusionGemma 的 BFCL 准确率由固定顺序的 37.27% 升至 81.56%。
要点速读
- 论文提出 DConstrain,把 schema 编译为上下文参数化转移程序,支持任意属性顺序的精确约束解码。
- 作者报告在三个基准、两个 DLM 家族上 BFCL schema 编译率 100%,对比优化有限状态基线的 71.30–85.81%。
- 作者报告任意属性顺序下 BFCL 端到端解码延迟降低 6.65–46.26 倍,schema 有效率 100%,DiffusionGemma 准确率从 37.27% 升至 81.56%。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。