针对单一价值的微调会波及未训练价值与安全特质
资讯摘要
论文针对四个指令微调LLM，按Hofstede文化价值维度分别做价值微调，并评估跨价值迁移及更广泛行为。作者报告，针对特定价值的训练会对未训练价值、风险偏好、社会认知和安全特质产生意外副作用，因此建议价值对齐后训练应纳入更广泛的行为评估，并需研究额外价值训练在流程中的最佳位置。
要点速读
- 论文将四个指令微调LLM分别按Hofstede各价值维度进行微调
- 作者报告价值特定训练对未训练价值、风险偏好、社会认知与安全特质产生意外副作用
- 论文建议价值对齐后训练加入更广泛行为评估，并研究价值训练在流程中的位置
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。