新解码框架用符号推理保证 LLM 输出满足形式化规范。
资讯摘要
论文提出一种神经符号的规范引导解码框架，将大语言模型生成与符号推理结合，在解码每一步过滤掉无法扩展为满足形式化规范的取值。作者给出前向变体（按构造保证满足规范）与回溯变体（当下游只剩模型自判不合适的取值时回退修改先前选择）。框架与模型无关、无需重训练，基于现有语法约束解码机制。在配置与约束求解基准上，作者报告前向变体可靠产出合规输出，相比拒绝采样减少重复推理，仅带来适度符号推理开销；回溯变体进一步减少模型被迫选择自判不合适取值的情况。
要点速读
- 框架在解码每一步用符号推理过滤无法满足形式化规范的取值，与模型无关且无需重训练。
- 前向变体按构造保证规范满足，作者报告其相比拒绝采样减少重复 LLM 推理，仅增加适度符号推理开销。
- 回溯变体在后续只剩模型自判不合适取值时回退修改先前选择，作者称其明显提升对提示解释的遵循度。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。