ACR 用未训练专家掩码让冻结 MoE 模型产出更多不同解法。
资讯摘要
论文提出 Agent-Conditioned Routing(ACR),为冻结的稀疏 MoE 模型分配 m 条并行轨迹,每条轨迹使用持久、未经训练、共享或私有的专家可用性掩码,同时保留原有的输入相关 token 路由器,无需用户指定角色、预设方法、微调或复制模型。在 126 道多模式数学与物理基准上,作者报告 ACR 在 GLM 5.3 下产生至少两种不同主方法的题目数约为最强温度采样的两倍(37.3 对 18.7),在 GPT-5.6 Sol 下为 1.67 倍(45.00 对 27.00)。
要点速读
- ACR 通过未训练的共享/私有专家掩码让同一冻结 MoE 模型产生多条推理轨迹,保留原有 token 路由器。
- 作者报告在 126 题基准上,ACR 的多方法题目数在 GLM 5.3 下为 37.3 对 18.7,在 GPT-5.6 Sol 下为 45.00 对 27.00,输出预算匹配。
- 30 题分层样本的四专家盲审也显示 ACR 在两种骨干上多方法解更多但正确率更低;ACR 增加约 160 KiB 掩码状态。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。