ATC 在消息入口处执行角色契约,抑制多智能体越权漂移。
资讯摘要
论文提出 Agent Trajectory Control(ATC),将多智能体 LLM 系统中每个角色的权限显式定义为契约,并在消息进入共享对话前进行拦截检查。ATC 对候选输出评估越权偏离、职能泄漏、不当言语行为与逻辑违约,计算泄漏正则化目标以约束重生成,再复核后放行。由于约束作用于消息而非生成器,可适用于内部表示不可见的黑盒智能体。作者报告在同质与异构团队中,ATC 相比提示、记忆、工作流控制与激活编辑等基线提升了任务表现与角色一致性,并降低角色漂移能量。
要点速读
- 论文将智能体越权行为形式化为 role drift,即回合级的角色契约违背。
- ATC 在消息进入共享对话前评分并约束重生成,再复核准入,不依赖智能体内部表示。
- 作者报告在同质与异构团队中任务表现与角色一致性提升,角色混淆压力测试下增益最大。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。