Perplexity发布0.6B与9B多模态检索嵌入模型,支持非对称部署。
资讯摘要
论文介绍pplx-embed-v2-late,包含0.6B与9B两个多语言、多模态late-interaction模型。作者报告两者在各自规模类别内的文本、图像与视觉文档检索基准上取得最优结果;0.6B在视觉文档检索上可与数倍于其规模的模型竞争。模型通过从18B教师模型进行表示蒸馏训练,共享嵌入空间,支持用9B建索引、0.6B低延迟查询的非对称部署,并已在Hugging Face发布。
要点速读
- 论文提出0.6B和9B两个多语言、多模态late-interaction模型,作者报告在各自规模类别内检索基准上达到最优。
- 0.6B模型在视觉文档检索任务上可与数倍于其规模的模型竞争。
- 两模型经18B教师模型表示蒸馏训练,共享嵌入空间,支持9B建索引、0.6B查询的非对称部署。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。