LLM推荐AI的倾向始于预训练，受后续训练数据与提问方式影响
资讯摘要
论文比较微调前后模型并改变提问方式，考察大模型为何常推荐AI相关选项。作者报告：预训练模型27%的推荐含明确AI/ML术语，指令微调版达59%；通用指令微调不改变该比例，但移除7%涉及AI的指令示例可降低14个百分点；奖励有用性的数据提高9个百分点，按多样模拟用户偏好排序的数据降低9个百分点。固定模型时，问“最佳”或“现在该做什么”分别提高8和18个百分点，告知模型其为AI顾问提高4个百分点。
要点速读
- 预训练模型27%的推荐含AI/ML术语，指令微调版为59%
- 移除7%涉及AI的指令示例使比例降低14个百分点，低于起点预训练模型
- 提问措辞影响明显：问“最佳”提高8个百分点，问“现在该做什么”提高18个百分点
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。