论文提出J-Comm,用雅可比线索实现异构LLM智能体间潜在通信。
资讯摘要
论文提出J-Comm框架,用于LLM智能体间的潜在通信,包含免训练的GEAR方法(在嵌入空间对候选token重加权以优化几何一致性)和H+J通信接口:H通道传递反馈分布导出的连续输入,J通道以词汇索引的雅可比透镜坐标传递中间状态线索,接收方用自身词典重建并注入中间层,无需共享KV缓存或要求模型宽度一致。在Qwen3-8B到Qwen3-4B通信中,作者报告其在七个基准上平均得分最高,MATH500达94.80%,GPQA-Diamond为54.55%,AIME2024+2025为73.33%,ALFWorld成功率62.93%;相比TextMAS提升1.29至8.59个百分点,生成文本token减少19.2%至74.8%。
要点速读
- J-Comm由免训练的GEAR重加权方法和H+J通信接口组成,接收方无需共享KV缓存或模型宽度一致。
- 在Qwen3-8B到Qwen3-4B通信中,作者报告MATH500达94.80%、GPQA-Diamond达54.55%、AIME2024+2025达73.33%、ALFWorld成功率62.93%。
- 相比TextMAS,作者报告性能提升1.29至8.59个百分点,生成文本token减少19.2%至74.8%。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。