回到最新动态
交叉发布 / THE SIGNAL

网络拓扑无关紧要:LLM群体中经典共识理论的失效

Network Topology Does Not Matter: The Breakdown of Classical Consensus in LLM Populations

重要性 6.5 AI 辅助整理

论文称LLM群体共识由模型内部偏置主导,与网络拓扑几乎无关。

资讯摘要

论文提出,经典分布式共识理论依赖的凸性、均值守恒与权重内容无关等假设在LLM群体中不成立。作者从8个指令微调模型的token概率中确定性提取连续置信度,基于73,080次受控交互测量LLM更新算子,发现模型会更新到观测意见凸包之外,并出现负权重式“主动排斥”。将拟合算子扩展到1万智能体模拟后,代数连通度几乎无法解释结果方差,群体动态主要由模型内部更新偏置与消息框架决定;部分模型(含70亿参数级)会累积局部漂移,在客观虚假主张上形成确信共识,且与网络结构无关。

要点速读

  1. 作者通过8个指令微调模型、73,080次受控交互,从token级概率中确定性提取连续置信度,直接测量LLM更新算子。
  2. 论文报告LLM系统性违反凸性,更新落在观测意见凸包之外,并表现出负权重的主动排斥,破坏行随机建模与标准有限置信修复。
  3. 将经验拟合算子扩展到1万智能体模拟后,代数连通度几乎不解释最终结果方差;群体动态由模型内部更新偏置和消息框架主导。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开