APB 用 4,209 个案例单独诊断智能体的规划能力。
资讯摘要
论文提出 Agent Planning Benchmark(APB),一个专门诊断 LLM 智能体规划能力的基准,包含 22 个领域、五种设置下的 4,209 个多模态案例,覆盖整体规划、带反馈的逐步规划,以及多余工具、损坏工具和不可解任务下的鲁棒性。作者报告,12 个 MLLM 在长程规划、工具噪声鲁棒性、校准拒答和推理时改进上存在系统性弱点;并在 200 个 ToolSandbox 任务和 200 个 τ²-bench 任务上验证,APB 引导的改进可提升三个代表性模型的规划正确性、规划评分和下游执行指标。
要点速读
- APB 含 4,209 个多模态案例,覆盖 22 个领域和五种规划设置。
- 作者报告 12 个 MLLM 在长程规划、工具噪声鲁棒性、校准拒答与推理时改进上存在系统性弱点。
- 在 200 个 ToolSandbox 与 200 个 τ²-bench 任务上,APB 引导的改进提升了三个代表性模型的规划与执行指标。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。