CauTrace用统一内部坐标刻画LLM推理失败过程。
资讯摘要
论文提出白盒诊断框架CauTrace，从功能状态、表征传播、时序状态协调与推理轨迹三个层面分析LLM失败原因。作者定义七种功能状态，并在Qwen与LLaMA系列模型上对比正常推理失败与配对对抗扰动，发现失败轨迹中支持状态更新时Attention-MLP一致性更弱、验证活动相对承诺更少，具体表征特征与时序偏移因架构而异。留出修复与引导测试在部分模型和设置下出现与作者判断一致的操作信号。
要点速读
- 论文提出CauTrace框架，通过功能状态、表征传播、时序状态协调与轨迹拓扑三项检查定位LLM失败根因。
- 在Qwen和LLaMA系列模型上，失败轨迹表现为支持状态更新时Attention-MLP一致性较弱、验证活动相对承诺偏少。
- 作者报告留出修复与引导测试在部分模型和设置下产生与预期方向一致的过程指标变化。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/29 08:00:21（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。