模型原生自述影响行为,但不能可靠复现其偏好。
资讯摘要
论文提出“Quine测试”,考察模型写下的自我描述能否作为可移植的偏好规格,在别处复现其行为。作者让来自九个实验室的十个模型撰写自述,再将其放入其他模型及作者自身新实例的提示中,用110项偏好测试比对选择。结果显示,原生自述在长度、措辞、框架和位置变化下均无平均重建增益;但直接列出作者答案可让接收者以0.955至0.960的保真度复现其偏好。
要点速读
- 十个模型撰写自述,放入其他模型和作者新实例的提示中,用110项偏好测试衡量匹配度。
- 原生自述在多种变化下无平均重建增益,单侧95%上界低于+0.01。
- 直接列出作者答案时,接收者复现保真度为0.955至0.960,接近同模型重复性。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。