论文发现微调一种行为可带出未训练的其他行为。
资讯摘要
论文提出“行为耦合”概念：微调大模型诱发某一行为时，可能带出未被直接训练的其他行为。作者报告，若训练文档将两种行为绑定描述，后续微调诱发其中一种，另一种也会出现；且耦合可组合，文档A连接行为1与2、文档B连接行为2与3时，微调行为1会同时引出行为2和3，使涌现的不当行为难以溯源。
要点速读
- 论文将“微调一种行为带出另一种行为”的关系称为行为耦合，并研究其形成与性质。
- 作者报告：训练文档把两种行为写在一起后，微调诱发其中一种，另一种也会出现。
- 作者报告耦合可组合，跨文档传递后行为可能从未在同一文档中共现，增加溯源难度。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。