回到最新动态
论文更新 / THE SIGNAL

论文提出按任务长度选择智能体模型

When Is Smaller Greener? Right-Sizing Language Models for Agentic AI

重要性 5.5 AI 辅助整理

模型越小越省能,但仅限可预测的任务长度以内

资讯摘要

一篇论文将智能体选用LLM视为多准则决策问题,主张以“每成功完成任务”的资源消耗比较模型,而非单次调用。作者推导出两模型效率排序互换的交叉任务长度,并提出先做无偏好支配筛选、再做多准则排序的两阶段框架。在15个开放权重模型、两个合成智能体任务的试点中,88个观测交叉点有72个落在预测范围内。

要点速读

  1. 论文以每成功完成任务所需能耗、成本和时间比较模型,指出失败尝试仍消耗资源
  2. 作者推导出各目标对应的交叉任务长度:低于最短交叉点时可靠性较低的模型占优,高于最长交叉点时可靠性较高的模型占优,中间区间两者均为帕累托有效
  3. 试点中20步时30亿参数模型每完成任务能耗约为270亿参数模型的十分之一;100步时17亿参数模型能耗约为80亿参数模型的近四倍

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开