关系无关的实体透镜得分可预测 LRE 忠实度，相关系数 0.7355。
资讯摘要
论文研究线性关系嵌入（LRE）忠实度在不同关系间差异巨大的原因，提出一种新的 Jacobian lens 变体“实体透镜”（entity lens），在不使用关系特定信息的情况下预测模型输出。在 Olmo-3-7B 的 LRE 数据集 28 个关系上，该关系无关得分与 LRE 忠实度的相关系数为 ρ=0.7355（p<.01）。作者认为线性可解码性主要取决于主语表示本身携带的信息，而非被解码的关系，并指出需要新的关系数据集与分析方法。
要点速读
- 论文提出实体透镜 EL_t，针对某类实体（如国家、人物）在“{} is known for”中性提示下训练，用于预测模型输出。
- 在 Olmo-3-7B 的 28 个关系上，关系无关得分与 LRE 忠实度相关系数为 ρ=0.7355（p<.01）。
- 作者指出现有数据集存在语义弱的首 token（如多数预测大学首 token 为“University”）和参考竞争等问题，完整流程已开源。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。