嵌入模型能编码情感,但相似度度量几乎不反映它。
资讯摘要
一篇论文报告现代文本嵌入模型存在系统性分离:情感几乎可从嵌入中完美解码,却几乎不体现在余弦相似度度量中。作者测试2021至2026年间11个冻结编码器(含Qwen3-Embedding-4B),线性探针最高达91.3%极性准确率,但余弦相似度区分极性的差距仅0.003–0.064。论文提出SISE,在冻结编码器上训练小型监督对比头,可提升探针准确率、检索MAP与极性差距,但会牺牲STS-B表现。
要点速读
- 11个冻结编码器中,线性探针最高91.3%恢复句子极性,余弦相似度区分极性差距仅0.003–0.064。
- Qwen3-Embedding-4B探针准确率91.3%,但检索MAP仅64.3。
- SISE小型对比头在CPU上数秒训练,提升检索MAP最高+26.0,但STS-B损失38–41个Spearman点。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。