预测合理不等于安全决策充分,需评估授权信息是否保留。
资讯摘要
论文指出,网页世界模型预测的未来看似合理,并不代表能支撑正确的安全决策。作者对十个冻结开源模型的3000条预测做人工评估,86.1%被判为语义合理,但部分模型授权行为高度不对称:误放行率低,却对需澄清的ASK情形召回差,且强烈倾向BLOCK。论文提出安全充分性概念与SafeWebWorld基准,覆盖五个网页安全域,并引入Latent Authorisation Recovery分析决策读出问题。
要点速读
- 3000条预测中86.1%被人工判为语义合理,但合理预测不等于安全决策正确
- 部分模型误放行率低,却对需澄清的ASK情形召回差,并强烈倾向BLOCK
- 论文提出SafeWebWorld基准与Latent Authorisation Recovery,作者报告证据保留提升时授权敏感决策反而变差
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。