ES-Merging：基于嵌入空间信号的生物MLLM合并

论文用嵌入空间信号替代参数启发式来合并生物MLLM。

资讯摘要

论文提出 ES-Merging，一种面向生物多模态大模型（MLLM）的模型合并框架。作者指出，现有合并方法依赖与输入无关的参数空间启发式，难以反映模态专精；ES-Merging 改从嵌入空间信号估计合并系数，利用粗粒度与细粒度信号分别得到层级和元素级系数并联合使用。作者报告，该方法在跨模态推理和单模态知识保持上均优于现有合并方法。

要点速读

1. 论文针对现有生物MLLM多为单模态专精、参数空间合并启发式无法忠实刻画模态专精的问题，提出ES-Merging。
2. ES-Merging从嵌入空间提取粗粒度与细粒度信号，分别估计层级和元素级合并系数并联合组合。
3. 作者报告实验显示，ES-Merging在跨模态推理与单模态知识保持上均优于现有合并方法。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。