SearchInject 在评测构造族内大幅降低检索目标暴露，干净检索质量基本不变。
资讯摘要
论文提出 SearchInject，在检索结果进入模型上下文前做准入控制，用检索相关性、搜索滥用线索、指令可能性及两项相关性交互组成联合评分，并在校准集上按 0.5% 干净候选误隔离约束选取隔离阈值。在 300 条留出 SciFact 查询上，BM25、归一化混合检索和 LSA 的 top-10 目标暴露分别从 0.9408、0.9158、0.8450 降至 0.1583、0.1508、0.1375，相对降幅 83.2%–83.7%，干净 nDCG@10 最大绝对变化 0.0018。
要点速读
- SearchInject 以联合评分控制检索页面是否进入模型上下文，阈值在校准集 0.5% 干净候选误隔离约束下选取。
- 在 300 条留出 SciFact 查询上，三种检索器的 top-10 目标暴露相对下降 83.2%–83.7%，干净 nDCG@10 最大绝对变化 0.0018。
- 冻结阈值在干净测试集上的误隔离率为 0.59%–0.65%，高于校准约束；104 例生成跟进未确认无防御劫持，无法估计攻击成功率降幅。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。