论文称忽略防护决策依赖会误判风险并致设计不可行。
资讯摘要
论文提出一个依赖感知框架，用于多组件AI防护系统的风险评估与优化设计，联合选择顺序分层筛查与选择性验证的配置和运行策略。作者在lower-orthant与supermodular序下给出分层筛查错误概率和调用成本的随机比较，并证明固定首阶段与审核器时最优路由为基于首阶段似然比的双阈值规则。作者报告，忽略依赖会导致风险评估失准和防护设计不可行，独立性选择在8个场景中有6个违反安全要求；在四个LLM防护器的实证中，依赖感知选择使留出总成本降低39.6%。
要点速读
- 论文提出依赖感知框架，联合优化多组件防护系统的配置与运行策略。
- 作者报告独立性选择在8个场景中有6个违反安全要求，依赖感知选择使留出总成本降低39.6%。
- 作者发布开源软件包DAPOA，用于实现该框架。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。