论文用文本能力分数预测 VLM 表现并外推到 72B 骨干
资讯摘要
论文提出 Capability-Driven Multimodal Scaling Law，用 LLM 文本基准经 PCA 提取的低维能力分数 S，预测 VLM 基准准确率，并引入每个骨干模型的迁移率与吸收率。作者在 7 个模型家族、34 个 LLM 上训练超过 150 个 VLM，并在 200 多个文本与 50 个多模态基准上评估，报告该定律可从 8B 外推到 72B 骨干，并能预测完整训练轨迹。
要点速读
- 论文提出以文本能力分数 S、迁移率和吸收率刻画 VLM 性能的跨家族缩放框架
- 作者报告在 7 个模型家族、34 个 LLM 上训练超过 150 个 VLM 进行拟合与验证
- 分析称部分文本基准与多模态表现负相关，且基座 LLM 作骨干优于指令微调版本
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。