开放权重流式输出护栏以0.8B参数达到83.6宏F1
资讯摘要
论文提出 HaloGuard 2.0，一个开放权重的流式输出护栏，在单次前向中对每个响应 token 给出安全/不安全概率，便于部署方在确认有害时中断生成。作者指出，用常规数据训练的护栏会走捷径、只判断提示而非响应，在匹配的安全/不安全响应对上仅13.9%判断正确；他们用106,043条反事实响应做第二阶段校正，并发布基础模型与校正模型的等权平均。
要点速读
- HaloGuard 2.0-0.8B 在六个英文响应安全基准上宏平均 F1 达83.6（决策规则搜索的留出半集为83.3），较72.8提升，误报减少38%。
- 作者报告其以5–10倍更少参数匹配最强全响应护栏，并比最强流式护栏 Qwen3Guard-Stream-4B 高2.6分。
- 多语言变体 HaloGuard 2.0-Poly-0.8B 在17种语言的 PolyGuardPrompts 响应标签上 F1 为83.1，比最强基线高5.0分；单张 H100 上并发64路时每 token 每流耗时0.37 ms。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。