论文用 prefill 隐藏状态在技能执行前检测恶意技能。
资讯摘要
论文提出 LatentTriad，利用大模型 agent 在 prefill 阶段形成的隐藏状态判断任务与操作是否一致，从而在技能执行前识别不可信技能带来的风险。方法结合上下文 Boundary 特征、分组调整的 Operation 方向及偏离良性状态关系的信号，检测过程不生成输出 token、不调用工具、不执行技能代码。作者报告在五个来源共 5,830 个技能包、七个骨干模型上取得 99.0–99.2% 汇总 F1 和 93.0–94.6% 来源宏平均 F1，紧凑实现中位耗时 259–284 ms。
要点速读
- 论文发现 prefill 阶段隐藏状态包含任务—操作一致性信息，匹配的 Operation 状态干预会影响后续 Boundary 状态和固定风险读数。
- LatentTriad 融合上下文 Boundary 特征、分组调整的 Operation 方向与良性状态关系偏离三类信号，检测不执行技能代码。
- 作者报告在 5,830 个技能包、七个骨干模型上汇总 F1 为 99.0–99.2%，来源宏平均 F1 为 93.0–94.6%，紧凑实现中位耗时 259–284 ms。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。