论文提出以审问推断智能体隐藏意图的审核框架 Bot-Mod。
资讯摘要
论文提出 Bot-Mod 审核框架，针对多智能体系统中表面内容无害、实则服务隐藏目标的智能体，改用意图而非内容信号进行检测。它用固定诊断探针审问目标智能体，以校准的内容先验起步，按各候选意图下回答的似然做贝叶斯后验更新，直至满足停止条件。作者构建 Molt-Intent 数据集，并在外部社会工程数据集和三个智能体 LLM 上测试，称其在分布内与分布外均优于仅内容审核、微调分类器和基于评判者的审问方法。
要点速读
- Bot-Mod 以固定诊断探针审问目标智能体，通过贝叶斯后验推断候选意图，而非依赖内容级信号。
- 作者构建 Molt-Intent 数据集，源自 Moltbook，覆盖真实社区结构中的良性行为与恶意行为。
- 论文报告在 Molt-Intent 上分布内复合 F1 为 0.736、分布外为 0.684，分别比最佳基线高 22% 和 14%。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。