Lean4策略运行时在调用前拦截违规工具调用，注入成功率降至5.9%
资讯摘要
论文提出LeanGuard，一个在工具调用到达环境前用Lean4策略校验的运行时，策略结合状态谓词与执行历史上的限域过去时态算子，评估失败即拒绝，并证明判定过程与LeanLTL语义等价。在Tau-Bench上五个Qwen模型（0.8B–27B）未受护栏时至少执行33次被策略禁止的调用，LeanGuard下为零；DTap上直接提示注入成功率从57.9%降至5.9%。
要点速读
- 策略用Lean4编写，结合状态谓词与限域过去时态算子，评估失败即拒绝，判定过程被证明与LeanLTL语义等价。
- Tau-Bench上五个Qwen模型（0.8B–27B）未受护栏时至少执行33次被禁止调用，LeanGuard下为零；带反馈时任务成功率无显著变化。
- DTap上直接提示注入成功率从57.9%降至5.9%；重放的252次因参数值被拒的调用中，修复为88次证明可接受的修改，中位耗时2毫秒。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。