REGER 用语义邻居预训练与偏好蒸馏改进生成式推荐。
资讯摘要
论文提出 REGER 框架,将物品间关系显式融入语义预训练、历史编码与 SID 生成。作者通过生成式语义检索预训练,让模型学习生成语义邻居的 SID;并用全局注意力与对齐 SID 边界的局部注意力捕捉历史上下文和相邻物品转移。论文还给出 SID 前缀树上的层级偏好分解理论,并据此蒸馏判别式教师模型的条件分布。作者报告在真实数据集上相较现有 GR 基线取得一致提升。
要点速读
- 论文提出 REGER,将物品间语义与协同关系显式纳入生成式推荐的预训练、历史编码和 SID 生成。
- 通过生成语义邻居 SID 的生成式语义检索预训练,使模型继承物品间语义相似性。
- 作者报告在真实数据集上相较现有 GR 基线取得一致提升,并称偏好蒸馏有效。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。