论文用轨迹级弱监督训练轻量监控器，实现对话与智能体早期失败预警。
资讯摘要
论文针对对话和 LLM 智能体轨迹的早期失败预警，提出仅用轨迹级结果训练的轻量外部监控器。作者观察到五个基准中与失败高度相关的轮次稀疏且偏晚，因此用基于注意力的多实例学习（MIL）从轨迹结果学习轮次级贡献，并蒸馏为在线证据特征。系统配合 α-STOP 策略在推理时选择准确率与提前量的工作点。作者报告预测器使帕累托前沿质量提升 1–10%，完整系统较现有触发策略提升 3–42%，且无需按偏好重训。
要点速读
- 方法仅依赖轨迹级结果训练，无需逐轮标注，并用注意力 MIL 学习轮次级证据贡献。
- 作者报告预测器将帕累托前沿质量（超体积）较朴素前缀监督提升 1–10%，完整系统较现有触发策略提升 3–42%。
- 相比基于 LLM 的不确定性监控（GPT-5.2），轻量监控器测得单次决策服务成本降低 1,103–3,749 倍、延迟降低 31–106 倍。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。