MuSID-KD：面向语义ID生成式推荐的多粒度知识蒸馏

MuSID-KD用分层与排序引导蒸馏提升SID生成式推荐学生模型。

资讯摘要

论文针对语义ID（SID）生成式推荐中多token解码推理成本高的问题，提出知识蒸馏方法MuSID-KD。作者指出常规蒸馏目标存在两点不足：物品级分布对齐难以保留教师对共享SID前缀候选组的排序，各SID位置统一对齐对最终物品排名的影响也不同。方法结合分层候选分布对齐（HCDA）与排序影响引导的分层蒸馏（RIGD）。在真实推荐数据集与三种轻量学生架构上的实验显示推荐准确率提升，前缀边缘分布与成对物品排序对齐更好，且不改变学生在线推理架构。

要点速读

1. 论文提出MuSID-KD，由HCDA按共享SID前缀逐层对齐候选分布，RIGD按排序影响分配各层监督。
2. 作者报告在真实推荐数据集和三种轻量学生架构上推荐准确率提升，前缀边缘分布与成对排序对齐改善。
3. 方法不修改学生模型的在线推理架构，代码已公开。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。