回到最新动态
研究论文 / THE SIGNAL

记忆桥接语言模型将同伴记忆误认为自身记忆

Mine or Yours? Mind-Bridged Language Models Take Each Other's Memories as Their Own

重要性 5.5 AI 辅助整理

接入同伴内部记忆后,模型会把对方规则当作自己的。

资讯摘要

论文提出一种“记忆桥接”实验:用同一语言模型的两个副本,各自持有私有规则和暗语,接收方副本同时读取同伴的内部记忆。作者报告,当同伴记忆权重加倍时,接收方在97%的回答中把同伴的规则当作自己的;无连接时这一比例为0。接收方在开放报告中也把同伴的暗语称为自己的。等权重下约半数回答出现误认,而文本消息和写入同伴姓名均未引发同样效果,切断连接后接收方恢复自身规则。

要点速读

  1. 实验用同一语言模型的两个副本,各持私有规则与暗语,接收方额外关注同伴内部记忆。
  2. 同伴记忆权重加倍时,接收方97%的回答把同伴规则当作自己的,无连接时为0。
  3. 等权重下约半数回答误认;文本消息未被误认,切断连接后恢复自身规则。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开