扩散语言模型表格生成忠实性诊断研究

扩散语言模型表格生成中，参考指标提升不代表忠实于源表。

资讯摘要

论文在 ToTTo 表格转文本任务上，比较掩码扩散模型 MDLM、LLaDA 与 GPT-2、GPT-Neo 在相同检索式少样本协议下的表现，并单独评估参考相似度与源表接地性。作者报告 LLaDA 增加示例后 BLEU 从 11.3 升至 22.0，但 NLI 蕴含分数从 0.78 降至 0.52；QLoRA 微调的 LLaDA 取得最高 BLEU 24.15，接地性并未提升。人工标注显示两类模型失败方式不同。

要点速读

1. 论文在 ToTTo 上对比 MDLM、LLaDA 与 GPT-2、GPT-Neo，并加入 QLoRA 适配的 LLaDA。
2. 作者报告 LLaDA 增加示例使 BLEU 从 11.3 升至 22.0，NLI 蕴含从 0.78 降至 0.52。
3. QLoRA 版 LLaDA 取得研究最高 BLEU 24.15，但接地性未改善；人工标注显示失败模式不同。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。