MICA 用多粒度信用分配改进多轮情感支持对话的强化学习。
资讯摘要
论文提出 MICA,一种无需 critic 的强化学习框架,用于多轮情感支持对话。它从用户结构化支持状态的共享势函数中同时导出即时与延迟信用:增量距离奖励衡量每轮与目标状态残差距离的下降,其蒙特卡洛回报捕捉延迟效应,经范围归一化后形成混合优势。作者报告在 EMPA、EQ-Bench、EmoBench 上使用 Qwen2.5-7B-Instruct 与 Qwen3-8B/14B/32B 测试,MICA 稳定优于 GRPO 和 REINFORCE++,EMPA 最高提升 42.5,且不增加 rollout 开销。
要点速读
- MICA 为无 critic 的多轮情感支持 RL 框架,用共享势函数导出即时与延迟信用。
- 增量距离奖励衡量每轮残差距离下降,蒙特卡洛回报捕捉延迟效应,归一化后组成混合优势。
- 作者报告在 EMPA、EQ-Bench、EmoBench 及 Qwen 系列模型上优于 GRPO 与 REINFORCE++,EMPA 最高 +42.5。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。