ADTGuard 逐 token 检测流式输出风险,仅需 16M 可训练参数。
资讯摘要
论文提出 ADTGuard,用于大模型流式生成中的安全防护。它逐 token 在释放前检查,通过 Depth-Time Safety Dynamics 融合各层安全证据并沿 token 累积风险,用 Causal Depth Router 按当前前缀自适应选择观察层,并以 Risk-Onset Target Refinement 在仅有回复级标签时逐步构造 token 级训练目标。作者报告在多个安全基准上检测表现与现有方法相当或更优,可训练参数仅 16M,每 token 延迟具竞争力。
要点速读
- ADTGuard 在 token 释放前逐 token 检查,避免回复或分块边界事后审核带来的延迟干预。
- Depth-Time Safety Dynamics 整合各层安全证据并跨 token 累积风险,Causal Depth Router 按当前前缀自适应选择观察层。
- 作者报告仅需 16M 可训练参数,在多个安全基准上匹配或超过现有防护方法,并保持有竞争力的每 token 延迟。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。