让评审模型读取环境状态以扩大危害评估覆盖

合并轨迹与环境状态两个评审通道可提高智能体危害召回率。

资讯摘要

论文提出让具备环境只读访问权限、并给定危害分类体系的 LLM 评审模型来检测智能体危害，而非仅检查轨迹或最终状态。作者在 DecodingTrust-Arena 两个环境和 OSWorld 一个环境中固定评审模型与分类体系，仅改变观察通道。结果显示，轨迹评审与状态评审合并后，在 DecodingTrust-Arena 召回 94% 已确认危害，轨迹评审单独为 53%；在 OS-Harm 上合并召回 77%，单独为 67%。单一评审同时看两个通道反而更差。

要点速读

1. 论文在 DecodingTrust-Arena 两个环境和 OSWorld 一个环境中比较轨迹评审、环境状态评审及两者合并的效果。
2. DecodingTrust-Arena 中合并召回 94%，轨迹评审单独 53%；OS-Harm 上合并 77%，轨迹评审单独 67%。
3. 单一评审同时接收两个通道并未提升，假阴性多于仅状态评审；两通道漏掉的事件不同。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。