回到最新动态
交叉发布 / THE SIGNAL

基于证据约束的移动GUI执行轨迹复用

Reuse, Rewrite, or Reject: Evidence-Constrained Trace Reuse for Repeated Mobile GUI Control

重要性 5.5 AI 辅助整理

论文用图-文本模板选择性复用GUI执行轨迹,大幅降低LLM推理开销。

资讯摘要

论文针对移动GUI智能体重复执行相似任务时,因指令与环境变化导致旧轨迹失效的问题,将变化归纳为六类,并提出图-文本模板:图记录UI状态与动作转移,文本编码任务意图、流程结构与可变槽位。记录-模板-回放框架依据当前指令和实时UI状态,对单步转移选择复用、改写或丢弃。作者报告在AndroidWorld上五个基座智能体的LLM推理token平均减少约80%,多数智能体执行提速至少1.5倍;Android与HarmonyOS真机测试动作复用率为70.7%–79.8%。

要点速读

  1. 论文将用户指令与执行环境的变化归纳为六类,并指出单步动作转移仍可能可复用
  2. 提出图-文本模板与记录-模板-回放框架,按当前指令和实时UI状态复用、改写或丢弃转移
  3. 作者报告AndroidWorld上token消耗平均降约80%,真机动作复用率70.7%–79.8%

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开