Circuit Oracle 用 LLM 自动分析归因图，三项安全任务结果好坏参半。
资讯摘要
论文提出 Circuit Oracle，用配备多智能体框架和任务专用技能的现成 LLM，通过工具调用读取归因图，回答关于目标模型的自然语言问题。作者在三个安全相关代理任务上评估：虚假特征检测准确率 78.2±2.4%，优于单层特征排序基线；在隐藏知识诱导上不及 Activation Oracles 等自解释器；在 50 条提示的拒绝抑制上，单次干预略低于 diff-in-means 基线，仅取五次最佳时超过。结果在五次运行和不同智能体模型选择下稳定。
要点速读
- 论文提出 Circuit Oracle，用现成 LLM 加多智能体框架和任务专用技能，通过工具调用读取归因图并回答自然语言问题。
- 虚假特征检测达到 78.2±2.4% 准确率，优于单层特征排序基线；隐藏知识诱导任务上 Activation Oracles 等自解释器仍是更强基线。
- 拒绝抑制任务中单次干预略低于 diff-in-means 基线，取五次最佳时才超过；结果在五次运行和不同智能体模型下稳定。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。