回到最新动态
交叉发布 / THE SIGNAL

AgentTrace:黑盒LLM智能体的执行级指纹识别

AgentTrace: Execution-Level Fingerprinting of Black-Box LLM Agents

重要性 5.5 AI 辅助整理

执行轨迹中的修复序列可用于识别黑盒智能体背后的基础模型。

资讯摘要

论文提出 AgentTrace,一种通过可观测执行轨迹识别黑盒智能体背后基础模型的主动框架。它向刚性工具接口注入结构歧义探针,触发对分词敏感的序列化失败,再依据后续修复操作的时间序列刻画模型特有的恢复行为,并用轻量马尔可夫链建模。作者报告在对抗性身份伪装下达到 96.0% 归因准确率,且能区分共享同一分词器的同族变体(如 Llama-3 8B/70B)。

要点速读

  1. AgentTrace 通过注入结构歧义探针,在工具接口触发分词敏感的序列化失败,作为粗粒度模型族区分信号。
  2. 后续修复操作的时间序列被用于刻画细粒度、模型特有的恢复行为,并以轻量马尔可夫链建模。
  3. 作者报告在对抗性身份伪装下归因准确率为 96.0%,可区分共享分词器的同族变体,并对提示混淆与温度缩放保持稳健。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开