WhisperRec 用潜在推理 token 替代显式思维链,提升推荐效率与效果。
资讯摘要
论文提出 WhisperRec,将教师模型生成的思维链压缩为可学习的潜在推理 token,在潜在空间完成推理,避免自回归生成长篇理由带来的延迟。方法包括多视角自适应 CoT 构造监督、三阶段潜在推理对齐和课程式后训练。作者报告在快手工业数据集与公开 LLM-Rec 基准上优于显式 CoT 与常规基线,SID@64 分别提升 17.44% 和 9.33%,在线推理吞吐提升逾 10 倍。
要点速读
- WhisperRec 将教师 CoT 压缩为潜在推理 token,采用 Latent-Reason-then-Answer 范式,不输出冗长理由。
- 提出 Multi-View Adaptive CoT 构造多视角监督,并按实例调整推理复杂度。
- 作者报告在快手工业数据集和公开 LLM-Rec 基准上,SID@64 较显式 CoT 的 Think 与 No-Think 变体分别提升 17.44% 和 9.33%,在线推理吞吐提升逾 10 倍。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。