回到最新动态
研究论文 / THE SIGNAL

Quine测试:模型自述能否复现自身偏好

The Quine Test: How Much of a Model's Self Survives Its Own Description?

重要性 5.5 AI 辅助整理

模型原生自述影响行为,但不能可靠复现其偏好。

资讯摘要

论文提出“Quine测试”,考察模型写下的自我描述能否作为可移植的偏好规格,在别处复现其行为。作者让来自九个实验室的十个模型撰写自述,再将其放入其他模型及作者自身新实例的提示中,用110项偏好测试比对选择。结果显示,原生自述在长度、措辞、框架和位置变化下均无平均重建增益;但直接列出作者答案可让接收者以0.955至0.960的保真度复现其偏好。

要点速读

  1. 十个模型撰写自述,放入其他模型和作者新实例的提示中,用110项偏好测试衡量匹配度。
  2. 原生自述在多种变化下无平均重建增益,单侧95%上界低于+0.01。
  3. 直接列出作者答案时,接收者复现保真度为0.955至0.960,接近同模型重复性。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开