回到最新动态
研究论文 / THE SIGNAL

IntentDelta:面向演化用户意图的人工构建基准

IntentDelta: A Human-Constructed Benchmark for Evolving User Intent

重要性 5.5 AI 辅助整理

新基准 IntentDelta 显示智能体跟踪演化用户意图仍困难。

资讯摘要

论文提出 IntentDelta,一个由人工构建的多轮基准,包含 WebShop 与 TravelPlanner 上的 638 条轨迹、3766 轮对话,每轮将用户话语与累积意图状态及人工参考动作配对,覆盖约束与优先级的可行性和偏好变化。作者报告在 11 个智能体上,TravelPlanner 平均意图恢复率 33.1%、WebShop 44.7%,平均动作得分分别为 31.6% 和 41.0%;智能体难以保留早期需求并区分软偏好与硬约束,意图恢复正确也不保证执行成功。

要点速读

  1. 基准含 638 条轨迹、3766 轮,覆盖 WebShop 与 TravelPlanner,每轮配累积意图状态与人工参考动作。
  2. 作者报告 11 个智能体的平均意图恢复率为 TravelPlanner 33.1%、WebShop 44.7%,平均动作得分为 31.6% 和 41.0%。
  3. 作者指出智能体难以保留早期需求、区分软偏好与硬约束,且意图恢复正确不保证执行成功。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开