监控器共享来源会同时失效,应按来源计数并加入规则引擎。
资讯摘要
论文研究AI代理执行支付等操作前多个监控器的审批可靠性,借用分布式计算的易失效系统概念,用可能同时失效的监控器集合描述规则安全性。作者在两种预注册协议下测量十二个小型开源权重监控器的支付审批表现,并额外测试三个闭源前沿模型与DeepSeek-V3.2。结果显示,可靠骗过监控器批准欺诈均经由证据来源且只影响该来源读者;骗其拦截正确支付则取决于注入抵抗力。按来源而非投票计数的规则在同等安全下误拦0.9%,最佳计数规则为7.4%。预注册最坏情况测试未通过,加入不可被说服的规则引擎后恢复安全且可执行的规则条件。
要点速读
- 论文在两种预注册协议下测量十二个小型开源权重监控器的支付审批,并额外测试Claude Opus 5.5、GPT-6 Astra、Gemini 4 Argon与DeepSeek-V3.2。
- 可靠骗过监控器批准欺诈均通过证据来源实现,且只影响该来源的读者;骗其拦截正确支付取决于注入抵抗力,小模型和DeepSeek会服从植入指令。
- 按来源计数而非投票的规则误拦0.9%正确支付,最佳计数规则为7.4%;预注册最坏情况测试失败,加入规则引擎后恢复条件。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。