论文称训练数据缺失隐含语境，可被用于诱导模型输出有害内容。
资讯摘要
一篇 arXiv 论文指出，人类语言依赖隐含的语境信息（如世界知识、社会规范），这类信息常未在文本中明说，也因此在训练语料和对齐过程中被忽视。作者将训练数据缺少隐含语境称为 LLM 的“隐含风险”，并提出一种攻击方法：引导模型从暗示社会危害的提示中推断预设、言外之意等隐含线索，再借这些线索诱导更多有害内容。作者报告该方法在多种开源与闭源模型上明显优于基线，并呼吁针对被忽视的隐含语境设计新防御方法。
要点速读
- 论文认为隐含语境因不在文本语料中，常在对齐阶段被忽略，构成“隐含风险”。
- 作者提出引导模型推断预设与言外之意、再据此诱导有害输出的攻击方法。
- 作者报告该攻击在多种开源和闭源模型上大幅优于基线方法。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/27 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。