TTT-Consolidate：用测试时训练整合多智能体推理

论文用测试时训练把多智能体推理轨迹整合进模型参数。

资讯摘要

论文提出 TTT-Consolidate 框架，将多个智能体的推理轨迹作为适配数据，通过测试时训练把轨迹整合进参数化的 LoRA 适配器，再据此生成最终解；训练时用双层优化元学习整合方式。作者构建了含 12,810 道数学题、混合六个 LLM 轨迹的 OpenParallelThinking 语料。论文报告在数学与 STEM 基准上，其表现比最佳聚合基线最高高出 20 个百分点，且模型规模越大差距越明显。

要点速读

1. 框架用测试时训练把多智能体推理轨迹整合为轻量 LoRA 适配器，再基于整合信息生成新解。
2. 训练采用双层优化：内循环编码轨迹，外循环学习使整合有助于最终求解的元参数。
3. 作者构建 OpenParallelThinking 语料（12,810 道数学题，混合六个 LLM 的轨迹），并称在数学与 STEM 基准上比最佳聚合基线最高高 20 个百分点。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。