论文用离散隐 token 替代连续隐空间做推理，报告最高 20 倍压缩。
资讯摘要
论文提出 Discrete Latent Reasoning（DLR），将连续隐状态转换为显式离散 token，以缓解连续隐空间推理训练不稳定、轨迹不可解释的问题。方法借鉴渲染压缩：把文本思维链渲染为图像、提取视觉特征，再通过聚类微调构建离散隐词表，扩展词表与输出头后可用标准自回归方式同时建模自然语言与隐 token，支持预训练对齐、SFT 和 RL。作者报告在五个推理基准及 Qwen3-VL、LLaMA-3 两个模型系列上优于既有隐式推理基线，最高 20 倍压缩，且隐轨迹保留可解释语义结构。
要点速读
- 论文提出 DLR，首次将连续隐状态转为显式离散 token，用于隐式推理。
- 方法将思维链渲染为图像并提取视觉特征，经聚类微调构建离散隐词表，支持预训练对齐、SFT 与 RL。
- 作者报告在五个推理基准和 Qwen3-VL、LLaMA-3 上优于先前隐式推理基线，最高 20 倍压缩，隐轨迹具可解释语义结构。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。