回到最新动态
研究论文 / THE SIGNAL

ADTGuard:面向流式推理的自适应深度-时间防护

ADTGuard: Adaptive Depth-Time Safeguard for Streaming Inference in Large Language Models

重要性 5.0 AI 辅助整理

ADTGuard 逐 token 检测流式输出风险,仅需 16M 可训练参数。

资讯摘要

论文提出 ADTGuard,用于大模型流式生成中的安全防护。它逐 token 在释放前检查,通过 Depth-Time Safety Dynamics 融合各层安全证据并沿 token 累积风险,用 Causal Depth Router 按当前前缀自适应选择观察层,并以 Risk-Onset Target Refinement 在仅有回复级标签时逐步构造 token 级训练目标。作者报告在多个安全基准上检测表现与现有方法相当或更优,可训练参数仅 16M,每 token 延迟具竞争力。

要点速读

  1. ADTGuard 在 token 释放前逐 token 检查,避免回复或分块边界事后审核带来的延迟干预。
  2. Depth-Time Safety Dynamics 整合各层安全证据并跨 token 累积风险,Causal Depth Router 按当前前缀自适应选择观察层。
  3. 作者报告仅需 16M 可训练参数,在多个安全基准上匹配或超过现有防护方法,并保持有竞争力的每 token 延迟。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开