论文用LLM自干预估计概念因果效应,冻结7B模型在Omni-MATH-Rule达69.7%。
资讯摘要
论文提出CIKA框架,将LLM本身作为干预模拟器:通过提示把概念状态设为“已掌握”,以正确率变化估计因果效应,并形式化为干预能力探针ICP。作者报告在67道筛选题上,排名最高概念的ICP(+0.219)显著高于负对照(+0.039);在601道Omni-MATH题上,已解题的平均处理效应为未解题的6.1倍。权重完全冻结的7B模型在Omni-MATH-Rule达69.7%,GSM8K达97.2%。
要点速读
- CIKA用提示将概念状态设为“已掌握”,以正确率变化估计因果效应,形式化为ICP,用于区分“会用某概念”与“仅拥有该知识”。
- 67道筛选题上,最高排名概念的ICP为+0.219,负对照为+0.039(配对t检验 p<10⁻⁶,Cohen's d=0.86)。
- 601道Omni-MATH题分析显示,已解题的ATE为0.338,未解题为0.055;冻结权重的7B模型在Omni-MATH-Rule达69.7%、GSM8K达97.2%。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。