论文称26个法律因素可从三个开放模型内部激活中读出。
资讯摘要
论文研究大语言模型是否形成与CATO全部26个法律因素对应的内部表征，考察线性可解码性与稀疏自编码器定位。实验覆盖Qwen3-1.7B、Qwen3-8B和Gemma-2 2B三个开放模型，并进行跨模型比较与人工审核。作者报告26个因素在三个模型中均可线性解码，单特征稀疏读出覆盖完整因素目录，最佳层测试AUC为0.86至1.00，并给出78个模型特定的层-特征坐标。
要点速读
- 论文检验26个CATO法律因素在LLM内部的可解码性与稀疏定位，实验用Qwen3-1.7B、Qwen3-8B和Gemma-2 2B。
- 作者报告全部26个因素在三个模型中均可线性解码，单特征稀疏读出覆盖完整因素目录，最佳层测试AUC为0.86至1.00。
- 研究给出78个模型特定的层-特征坐标，并称五个选定特征接近全向量读出性能。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。