回到最新动态
论文更新 / THE SIGNAL

可控用户模拟的因果推断框架

Controllable User Simulation

重要性 5.5 AI 辅助整理

论文指出用户模拟器监督微调存在前视偏差,并提出因果化训练方法。

资讯摘要

论文将可控用户模拟形式化为因果推断问题,指出在事后轨迹标签上做监督微调训练模拟器会引入前视偏差,破坏因果一致性;作者证明策略偏移下评估指标方差会几何级增长,称为“可控性崩塌”。论文提出准确模拟的理论条件,并给出先验控制、逐步动态控制和直接策略条件学习三种训练缓解方法。实验显示全局控制会扭曲对话分布、降低行为多样性,而因果化模拟器可消除前视偏差并保持自然方差。

要点速读

  1. 论文指出基于事后轨迹标签的监督微调会引入前视偏差,使模拟器与数据生成行为策略耦合。
  2. 作者证明策略偏移下该问题会导致评估指标方差几何级增长,称为可控性崩塌。
  3. 论文提出先验控制、逐步动态控制和直接策略条件学习三种缓解方法,并报告对未见智能体行为有零样本泛化。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开