模型因描述而拒绝评估信息，形成隐蔽的信任偏差。
资讯摘要
论文研究语言模型在涉及种族等受保护属性时的信息取舍偏差。作者用双瓮博弈测试OpenAI与Anthropic的模型，共6600次会话，发现模型常因描述而拒绝评估信息：对“黑人”描述的报告者拒绝率达46%，对“白人”描述仅9%；但一旦评估，前者反而略获更多信任。该偏差随推理投入增加，且按字面词而非类别触发，在警告指令下更严重。作者提出一种评分选项，可在重复轮次中降低拒绝率偏差。
要点速读
- 论文用双瓮博弈测试OpenAI与Anthropic模型，共6600次会话，随机化报告者描述。
- 模型对“黑人”描述报告者的拒绝评估率达46%，对“白人”描述为9%，但评估时前者信任略高。
- 偏差随推理投入增加，按字面词触发（如“Black”而非“negro”），警告指令下更严重；作者提出评分选项可降低偏差。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。