论文提出AgentPerturb框架，系统评测LLM智能体在交互扰动下的鲁棒性。
资讯摘要
论文提出AgentPerturb，从扰动目标与扰动类型两个维度构建统一评估框架，在APEX-Agents与Toolathlon上进行受控实验。作者报告扰动会持续降低智能体表现，主要脆弱点随任务环境变化；轨迹分析显示智能体很少识别被改动的输入，常未经核验就传播错误信息，成功完成受扰轨迹可能消耗更多计算。论文据此提出覆盖多样噪声并奖励核验、不确定性感知与恢复的训练目标，并给出基准构建流程，代码与数据将开源。
要点速读
- 提出扰动目标与扰动类型二维视角的统一评估框架，在APEX-Agents和Toolathlon上做受控评测。
- 作者报告扰动一致导致性能下降，主导脆弱点因任务环境而异；轨迹分析显示智能体常未识别输入改动并传播错误信息。
- 成本分析显示成功受扰轨迹可能需显著更多计算，论文据此提出强调核验、不确定性感知与恢复的训练目标。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。