回到最新动态
论文更新 / THE SIGNAL

TokenMinds:用预训练用户Token与嵌入理解用户

TokenMinds: Pretrained User Tokens and Embeddings for User Understanding in Large Recommender Systems

重要性 6.5 AI 辅助整理

TokenMinds 用 LLM 生成 SID 用户 token 补充稠密嵌入。

资讯摘要

论文提出 TokenMinds,将 PLUM 框架从基于 SID 的物品检索扩展到生成式序列用户建模。系统采用改编自预训练 LLM 的编码器-解码器结构:编码器输出稠密用户嵌入,解码器生成基于 SID 的离散用户 token,表示多方面的未来兴趣。长视频与短视频共享 SID 词表,统一跨场景行为,作者报告上游训练与推理算力分别减少 50% 和 31%。离线评估与 YouTube 主要排序界面的线上 A/B 实验显示,SID 用户 token 单独有效,与稠密嵌入叠加后优于上一代非 LLM 用户模型。

要点速读

  1. TokenMinds 基于预训练 LLM 的编码器-解码器,编码器输出稠密用户嵌入,解码器生成 SID 用户 token。
  2. 长视频与短视频共享 SID 词表,作者报告上游训练与推理算力分别减少 50% 和 31%。
  3. YouTube 线上 A/B 实验中,SID 用户 token 与稠密嵌入叠加后优于上一代非 LLM 用户模型。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开