安全探针性能的缩放定律

论文提出安全探针误差随模型规模与标签数呈两条缩放定律。

资讯摘要

论文研究安全探针的性能能否由模型规模和标签数量提前预测。作者构建六个规模与难度足够的新安全数据集，在五个模型家族的20个基座模型上训练两种探针架构，标签量从32到10⁶。作者报告探针误差（1-AUROC）遵循两条缩放定律：误差下限随模型规模呈幂律下降，误差随样本数增加趋近该下限，且斜率随目标模型规模增大。

要点速读

1. 作者构建六个新安全数据集，覆盖五个模型家族、20个基座模型和两种探针架构。
2. 作者报告两条缩放定律：探针误差下限随模型规模幂律下降；误差随标签数增加趋近下限，斜率随模型规模增大。
3. 用家族内最小模型拟合时，定律在72%的情况下将下一更大模型的误差预测在0.02以内，并在73%的情况下判断增加标签还是增大模型更省成本。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。