剪枝模型可保持解题覆盖,但正确解采样成本可能上升。
资讯摘要
论文考察结构化剪枝对LLM推理能力的影响,在四个数学与编程基准上比较专家、FFN与层剪枝模型和原模型的pass@k。作者报告,部分模型大幅剪枝后pass@1下降,但在相同采样预算下推理覆盖可持平或超过原模型,甚至解出原模型未解的问题;然而严重剪枝时正确解更难采样,重复增多,总token消耗可能上升。论文据此主张剪枝评估应同时看可解问题范围与采样成本。
要点速读
- 论文在四个数学与编程基准上,对专家、FFN和层剪枝模型与原模型做匹配采样预算的pass@k比较。
- 作者报告部分剪枝模型pass@1更低,但推理覆盖可持平或超过原模型,并解出原模型未解的问题。
- 严重剪枝下正确解更难采样,生成重复增多,即使单条回答变短,总token用量也可能明显上升。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。