LLM的善意动机画像来自恶意信号弱与善意报告放大两个来源
资讯摘要
一项预注册研究比较了LLM对举报者动机的内部线性探针读数与同一提示位置的自述评分。结果显示，对自利和伤害意图两种恶意动机，内部读数与表达评分无差异，低评分源于探针方向上信号较弱而非输出抑制；对责任和关心他人两种善意动机，表达评分高于内部读数，说明报告环节存在放大。自由文本中模型很少主动提出针对同事的动机，远少于人类，但场景给出理由后即可生成。沿恶意动机方向调整内部表示可将两项恶意评分提升至人类水平。
要点速读
- 对自利与伤害意图，内部探针读数与表达评分一致，低评分反映信号弱而非输出压制
- 对责任与关心他人，表达评分高于内部读数，表明报告时存在放大
- 自由文本中模型主动提出针对同事动机的频率远低于人类，但给出理由后可生成
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。