论文用PropMe区分模型能否与是否复现训练数据。
资讯摘要
论文提出PropMe框架，将前缀攻击的能力评估与非对抗性倾向评估配对，并用倾向指标关联两者；同时用开源工具SimpleTrace对照模型完整索引训练语料核查每次生成。作者在Comma、DFM Decoder和OLMo3 32B上，针对Common Pile、Dynaword、Dolma3测试四种非对抗设置，发现自然句子提示复现的训练文本远少于前缀攻击，但无提示或单个常见词在四组模型-语料中的三组里复现量接近或超过前缀攻击，且多为重复的许可证、代码和模板；持续预训练仅小幅减少对原语料的长段逐字复现。
要点速读
- PropMe将前缀攻击的能力评估与非对抗性倾向评估配对，并引入倾向指标关联两者。
- SimpleTrace是OLMoTrace跨度匹配的开源批量实现，用于对照模型完整索引训练语料核查生成内容。
- 无提示或单个常见词在四组模型-语料中的三组里复现量接近或超过前缀攻击，多为重复许可证、代码和模板；持续预训练仅小幅减少长段逐字复现。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/30 08:00:16（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。