回到最新动态
交叉发布 / THE SIGNAL

基准测试对上下文压缩出奇宽容

Benchmarks Are Surprisingly Compaction-Friendly

重要性 5.5 AI 辅助整理

论文发现现有长程基准对上下文压缩宽容,但约束类信息会静默丢失。

资讯摘要

论文在固定 OpenCode 脚手架内实现五种上下文压缩策略,用三个前沿模型在 PaperBench、ProgramBench、PostTrainBench 三个长程基准上评测。作者报告:两个 1M 上下文模型的压缩阈值对成绩无明显影响;上下文窗口最小的 GPT-5.3-Codex 在较低阈值下 PaperBench 表现变差。没有压缩方法优于默认自摘要,丢弃内容更多的策略可使部分模型损失最多 20 分。压缩还会静默丢失任务约束:ProgramBench 首次压缩摘要平均丢掉约三分之一反作弊规则,且随压缩次数单调上升;SWE-chat 真实会话中,关于工作方式与禁止事项的指令被丢弃的频率约为构建规格的 6 倍。作者认为现有基准对压缩友好,因为目标固定、进度存于磁盘,被丢弃内容多可恢复,唯独别处不存在的约束例外。

要点速读

  1. 论文固定 OpenCode 脚手架,实现五种压缩策略,在三个长程基准上评测三个前沿模型。
  2. 两个 1M 上下文模型的压缩阈值对成绩无明显影响;GPT-5.3-Codex 在低阈值下 PaperBench 变差。
  3. 无方法优于默认自摘要;ProgramBench 首次压缩平均丢失约三分之一反作弊规则,SWE-chat 中工作方式类指令被丢弃约为构建规格的 6 倍。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开