流式传递推理步骤可同时降低多智能体系统延迟并提升准确率。
资讯摘要
论文提出 StreamMA 多智能体推理系统,将每个推理步骤生成后立即流式传给下游智能体,实现相邻智能体流水线化以降低延迟;作者称该做法还能提升效果,因为早期步骤比后期步骤更可靠,可避免易错的后期步骤误导下游。论文给出流式、串行与单智能体协议的闭式联合分析,并在八个推理基准、三个前沿模型和三种拓扑上报告平均提升 7.3 个百分点。
要点速读
- StreamMA 将每个推理步骤生成后立即流式传输给下游智能体,使相邻智能体流水线化,从而降低端到端延迟。
- 作者报告流水线化还提升效果:多步推理质量不均匀,早期步骤更可靠,截断易错的后期步骤可减少对下游的误导。
- 论文给出流式、串行、单智能体协议的闭式联合分析,并在八个基准、Claude Opus 4.6、GPT-5.4、GLM-5.2 及 Chain/Tree/Graph 三种拓扑上报告平均 +7.3pp、HMMT2026 最高 +22.4pp。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。