BiCAA 用双向过程奖励改进搜索智能体的中间步骤信用分配。
资讯摘要
论文提出 BiCAA,针对搜索增强智能体在 GRPO 下仅依赖最终答案奖励、中间搜索步骤缺乏指导的问题,用前向可解性增益(FSG)与后续推理增益(SRG)做双向信用分配,并通过非对称融合校准局部反馈,将累积过程奖励与终局结果监督结合用于策略优化。作者报告在七个开放域问答基准和两个 Qwen 骨干上平均 F1 提升,多跳任务尤为明显。
要点速读
- 论文指出原始 GRPO 只按最终答案给奖励,对中间搜索步骤指导有限。
- FSG 量化每次交互后真实答案似然的变化,SRG 比较有无当前交互时后续动作似然,作为非冗余搜索的代理信号。
- 作者报告在七个开放域 QA 基准、两个 Qwen 骨干上平均 F1 提升,多跳任务更明显。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。