论文称LLM社会模拟结论易受微小实现扰动影响。
资讯摘要
一篇论文指出，从LLM社会模拟中得出的科学结论不应强于其稳健性审计。作者用重复囚徒困境和社交媒体回音室两个案例说明，人设格式、游戏指令措辞等微小扰动可使合作率变化高达76个百分点，网络同质性与枢纽分配也会显著改变极化指标，且敏感性因模型而异。论文为此提出TRAILS稳健性审计分类法，覆盖智能体、交互、系统三个层面。
要点速读
- 论文以重复囚徒困境和社交媒体回音室模拟为案例，发现人设格式与游戏指令框架的微小扰动可使合作率变化最多76个百分点。
- 同一扰动在一个前沿模型上造成76个百分点变化，在另一个模型上仅1个百分点，稳健性需按声明和模型分别测量。
- 论文提出TRAILS分类法，从智能体、交互、系统三个层面组织LLM模拟的稳健性审计。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。