心智理论与亲社会信念如何引导LLM在最后通牒博弈中的行为

ToM推理可提升LLM在最后通牒博弈中与人类规范的对齐。

资讯摘要

论文以最后通牒博弈为任务，考察心智理论（ToM）推理对LLM智能体行为与人类规范对齐的作用。作者为智能体设定Greedy、Fair、Selfless三种亲社会信念，并采用思维链与不同层级ToM推理，在包括o3-mini和DeepSeek-R1 Distilled Qwen 32B在内的多个模型上完成2700次模拟。结果显示ToM推理提升了行为对齐、决策一致性与谈判结果；推理型LLM表现有限，不同博弈角色受益于不同ToM阶数。

要点速读

1. 论文设置Greedy、Fair、Selfless三种亲社会信念，并对比思维链与不同层级ToM推理，共进行2700次模拟。
2. 作者报告ToM推理增强了行为与人类规范的对齐、决策一致性及谈判结果，且不同角色受益于不同ToM阶数。
3. 智能体几乎总选择与设定信念一致的策略；人类验证显示Llama 3.3 70B的推理与其行动和信念最一致。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。