新基准 IntentDelta 显示智能体跟踪演化用户意图仍困难。
资讯摘要
论文提出 IntentDelta,一个由人工构建的多轮基准,包含 WebShop 与 TravelPlanner 上的 638 条轨迹、3766 轮对话,每轮将用户话语与累积意图状态及人工参考动作配对,覆盖约束与优先级的可行性和偏好变化。作者报告在 11 个智能体上,TravelPlanner 平均意图恢复率 33.1%、WebShop 44.7%,平均动作得分分别为 31.6% 和 41.0%;智能体难以保留早期需求并区分软偏好与硬约束,意图恢复正确也不保证执行成功。
要点速读
- 基准含 638 条轨迹、3766 轮,覆盖 WebShop 与 TravelPlanner,每轮配累积意图状态与人工参考动作。
- 作者报告 11 个智能体的平均意图恢复率为 TravelPlanner 33.1%、WebShop 44.7%,平均动作得分为 31.6% 和 41.0%。
- 作者指出智能体难以保留早期需求、区分软偏好与硬约束,且意图恢复正确不保证执行成功。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。