面向扩散语言模型的任务与时间感知量化

扩散语言模型量化敏感度随任务与时间步变化，可无标签预测

资讯摘要

论文指出扩散语言模型的量化敏感度同时依赖任务和去噪时间步，不同下游任务在各去噪阶段有不同精度需求，且这些模式可在无真实标签和任务指标的情况下预测。作者据此提出 T2Quant 混合精度量化框架，用无标签敏感度信号在固定比特预算下为各去噪步分配激活精度。在三个 DLM 和六个基准上，论文报告其持续提升现有量化方法的平均准确率，同等预算下最高提升 6.7 个百分点。

要点速读

1. 论文发现扩散语言模型的量化敏感度随任务和去噪时间步变化
2. T2Quant 用无标签敏感度信号在固定比特预算下分配激活精度
3. 在三个 DLM、六个基准上，作者报告平均准确率最高提升 6.7 个百分点

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。