回到最新动态
研究论文 / THE SIGNAL

文本嵌入模型的情感盲区:语义可解码但度量不敏感

Semantically Rich, Metrically Affect-Blind: A Geometric Blind Spot in Modern Text Embedders

重要性 5.5 AI 辅助整理

嵌入模型能编码情感,但相似度度量几乎不反映它。

资讯摘要

一篇论文报告现代文本嵌入模型存在系统性分离:情感几乎可从嵌入中完美解码,却几乎不体现在余弦相似度度量中。作者测试2021至2026年间11个冻结编码器(含Qwen3-Embedding-4B),线性探针最高达91.3%极性准确率,但余弦相似度区分极性的差距仅0.003–0.064。论文提出SISE,在冻结编码器上训练小型监督对比头,可提升探针准确率、检索MAP与极性差距,但会牺牲STS-B表现。

要点速读

  1. 11个冻结编码器中,线性探针最高91.3%恢复句子极性,余弦相似度区分极性差距仅0.003–0.064。
  2. Qwen3-Embedding-4B探针准确率91.3%,但检索MAP仅64.3。
  3. SISE小型对比头在CPU上数秒训练,提升检索MAP最高+26.0,但STS-B损失38–41个Spearman点。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开