模型越小越省能,但仅限可预测的任务长度以内
资讯摘要
一篇论文将智能体选用LLM视为多准则决策问题,主张以“每成功完成任务”的资源消耗比较模型,而非单次调用。作者推导出两模型效率排序互换的交叉任务长度,并提出先做无偏好支配筛选、再做多准则排序的两阶段框架。在15个开放权重模型、两个合成智能体任务的试点中,88个观测交叉点有72个落在预测范围内。
要点速读
- 论文以每成功完成任务所需能耗、成本和时间比较模型,指出失败尝试仍消耗资源
- 作者推导出各目标对应的交叉任务长度:低于最短交叉点时可靠性较低的模型占优,高于最长交叉点时可靠性较高的模型占优,中间区间两者均为帕累托有效
- 试点中20步时30亿参数模型每完成任务能耗约为270亿参数模型的十分之一;100步时17亿参数模型能耗约为80亿参数模型的近四倍
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。