开放Tülu-3后训练配方会让模型更怀疑低地位职业发帖者。
资讯摘要
论文比较六个模型家族的基础与后训练检查点，用随机发帖者画像的事实核查任务考察“职业怀疑”。作者报告：只有开放的Tülu-3配方（OLMo-2 32B、Tülu-3 70B）产生对低地位职业发帖者更常判假的倾向，效应不足一个百分点但统计可靠；在OLMo-2 32B中，模型并非更注意职业，而是改变解读方向，该翻转由单一残差流方向承载，发生在监督微调阶段。
要点速读
- 论文在六个模型家族上比较基础与后训练检查点，发现职业怀疑仅出现在采用开放Tülu-3配方的OLMo-2 32B和Tülu-3 70B上，Meta、阿里、Mistral的配方未出现。
- 效应幅度不足一个百分点但统计可靠，超过训练漂移，并在独立声明集上复现。
- 在OLMo-2 32B中，低地位职业使基础模型偏向判“真”、后训练模型偏向判“假”，该翻转由单一残差流方向承载，发生在监督微调阶段；七个商用模型未表现出该倾向。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。