新基准用求解器验证多模态优化建模,最强模型通过率约五成。
资讯摘要
论文提出多模态优化建模任务:模型需根据图文问题描述同时构建数学规划模型与可执行求解器代码。作者构建求解器验证框架,生成结构化优化实例并用精确求解器校验,据此推出 MM-OptBench,含 780 个经求解器验证的实例,覆盖 6 个优化族、26 个子类与 3 个难度层级。评测 9 个多模态大模型,最佳两个模型 pass@1 为 52.1% 和 51.3%,三个数学专用模型均为 0/780。
要点速读
- MM-OptBench 含 780 个经精确求解器验证的实例,覆盖 6 个优化族、26 个子类、3 个难度层级。
- 评测 9 个多模态大模型:最佳两个模型 pass@1 为 52.1% 与 51.3%;六个通用模型平均在简单实例为 43.4%、困难实例为 15.9%。
- 三个数学专用多模态模型在全部 780 个实例上均未通过;作者报告多模态接地与求解器产物生成两方面均存在困难。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。