DIAL：用蒸馏指令遵循等级实现可控语言模型

DIAL 用蒸馏适配器实现指令遵循程度的细粒度数值控制。

资讯摘要

论文提出 DIAL（Distilled Instruction-Adherence Levels），用冻结 LLM 做无分类器引导（CFG）生成不同遵循等级的训练信号，再通过 on-policy 蒸馏训练一个轻量级引导适配器。该适配器基于 LLM 隐藏状态上的分类器计算闭式引导编辑，按目标遵循等级逐 token 自适应调整幅度，并考虑隐藏状态几何以保持连贯性；分类器以文本为条件，可共享支持新指令。作者报告在多个 LLM 系列上概念得分随等级单调上升，并发布 SteerIF 指令数据集。

要点速读

1. DIAL 用冻结 LLM 的 CFG 提供训练信号，对指令遵循程度做 on-policy 蒸馏。
2. 轻量引导适配器用文本条件分类器计算闭式编辑，逐 token 调整引导幅度。
3. 作者报告概念得分随遵循等级单调上升，并发布含 98,625 条指令的 SteerIF 数据集。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。