多数一致的投毒文档会显著降低Gemma-3-12b的识别率
资讯摘要
论文研究检索增强生成（RAG）中，互相一致的投毒文档数量是否影响模型识别错误信息。作者从SciFact随机选取200个问题，对比“1篇投毒+6篇健康”与“6篇互相一致投毒+1篇健康”两种上下文。作者报告，Gemma-3-12b的投毒识别率从少数条件25%（50/200）降至多数条件10%（20/200）；38个结果不同的问题中34个由识别转为未识别，仅4个反向变化（McNemar检验 p=6.04e-7）。
要点速读
- 论文从SciFact随机抽取200个问题（随机种子38），比较少数投毒与多数一致投毒两种上下文。
- 作者报告Gemma-3-12b识别率由25%（50/200）降至10%（20/200）。
- 38个结果变化问题中34个由识别转为未识别，4个反向，p=6.04e-7。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/3 08:00:27（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。