EffComp 用抽取式压缩加混合训练兼顾压缩比与准确率。
资讯摘要
论文提出 EffComp，一种面向 RAG 问答的高效提示压缩框架，使用 BERT 式文档重排器与句子选择器在句子级做快速抽取式压缩，抽取方式可避免压缩提示产生幻觉。其训练采用强化学习与监督学习混合方法，以在保持 LLM 准确率的同时优化压缩比。作者报告在多个问答数据集上，EffComp 在压缩比与准确率权衡上优于现有方法且延迟较低。
要点速读
- EffComp 采用 BERT 式文档重排器和句子选择器，实现句子级快速抽取式提示压缩。
- 抽取式压缩可避免压缩后提示出现幻觉；训练结合强化学习与监督学习以优化压缩比并保持准确率。
- 作者报告在多个问答数据集上，EffComp 在压缩比与准确率权衡上优于现有方法，且延迟较低。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。