论文用Petri网监督控制约束LLM智能体工具执行以抵御提示注入。
资讯摘要
论文研究提示注入下LLM智能体工具执行的安全问题，用Petri网将LLM与工具之间的执行框架形式化为监督控制问题，以标记表示能力、审批与预算，前置条件不满足或已耗尽的注入请求会被拒绝。作者将工具结果视为不可控，采用最大允许监督器保证安全，并引入重规划闭环，指出传统监督器可能比更严格的安全监督器更具侵入性，且对给定提议模型，最小侵入监督器可刻画为传统监督器的值阈值细化。
要点速读
- 论文用Petri网把LLM与工具间的执行框架形式化为监督控制问题，标记代表能力、审批和预算。
- 作者将工具结果视为不可控，用最大允许监督器保证安全，并称安全性在四个假设下可传递到运行系统。
- 论文提出重规划闭环，指出传统监督器可能比更严格的安全监督器侵入性更强，最小侵入监督器可刻画为值阈值细化。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。