LLM自优化代码更快但更耗能,多数配置高于人类参考解。
资讯摘要
论文在EffiBench全部1000道题上评测11个开源模型、4种解码配置,并采集硬件级能耗。作者报告推理能耗跨模型组合为0.79至8.68 MJ,限制最大输出token最多可降能耗69%;执行侧44种配置中42种生成的代码每题能耗高于人类参考解,超出4%至886%,仅两种配置有微弱收益,回本需10^6至10^7次执行。
要点速读
- 论文在EffiBench 1000题上评测11个开源模型、4种解码配置,全程采集进程级硬件能耗。
- 作者报告推理能耗0.79至8.68 MJ,限制最大输出token最多降低69%能耗。
- 44种配置中42种生成的代码每题能耗高于人类参考解,超出4%至886%,两种例外回本需10^6至10^7次执行。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。