论文用树结构共享历史计算，提升推荐微调效率。
资讯摘要
论文提出 Merge and Branch（M&B），针对 LLM 生成式推荐中长历史输入与短语义标识（SID）输出不对称导致的微调低效问题：Merge 将每个历史条目的 SID 与文本压缩为少量学习 token，Branch 用压缩历史预测多个目标 SID，并以浅而宽的树组织样本共享历史计算。作者还实现 tree FlashAttention 与树结构 KV 缓存，支持端到端训练和受限解码。作者报告在公开基准上优于强推荐基线，并显著提升训练与解码效率。
要点速读
- Merge 将每个历史条目的 SID 和文本压缩为少量学习 token，Branch 用压缩历史预测多个目标 SID。
- M&B 将每个样本组织为浅而宽的树，并开发 tree FlashAttention 与树结构 KV 缓存以共享历史计算。
- 作者报告在公开基准上优于强推荐基线，并显著改善训练与解码效率。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。