论文提出更严格的CoT可监控性因果评估框架及三种训练方法
资讯摘要
论文指出，现有基于干预的CoT监控评估指标TPR_mc可能高估监控器对干预实际导致的目标行为的检出率，并证明该指标是因果检出率的上界，同时推导出下界，形成更严格的评估框架。作者构建了覆盖多种干预类型的控制—干预配对训练数据集，基于离策略自蒸馏、强化学习和在策略自蒸馏设计三种训练方法，分别训练各基座模型的变体。作者报告，在多种模型—监控器配置下，三种方法在扩展评估框架下普遍提升了CoT可监控性。
要点速读
- 论文将TPR_mc确立为因果检出率的上界，并推导出互补下界
- 构建覆盖多种干预类型的控制—干预配对训练数据集
- 离策略自蒸馏、强化学习、在策略自蒸馏三种方法在扩展框架下普遍提升可监控性
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。