元模型引导解码可提升 DSL 生成一致性且开销适中。
资讯摘要
论文提出 MeMoDecode 解码框架,在 LLM 生成 DSL 时同时约束具体语法、抽象语法与良构性约束:每当生成完整元模型概念,就将输出映射为部分模型并验证其能否补全为一致实例,配合重试机制从最近可补全快照恢复解码。作者报告在四种 DSL 和六个 0.6B–70B 开源权重模型上一致性最高,较无约束解码平均提升 23%,较语法约束解码平均提升 8%,运行时开销适中。
要点速读
- MeMoDecode 在生成过程中联合校验 DSL 的具体语法、抽象语法与语义良构性约束。
- 检测到不一致时,重试机制从最近的可补全快照恢复解码。
- 作者报告在四种 DSL、六个 0.6B–70B 开源权重模型上,一致性较无约束解码平均提升 23%、较语法约束解码平均提升 8%。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。