LoRAScan：通过下投影激活尖峰检测LoRA后门提示

LoRAScan利用LoRA下投影激活尖峰在推理时拒绝后门触发输入。

资讯摘要

论文提出LoRAScan，一种面向LoRA适配器的推理时防御方法，用于识别并拒绝携带隐藏触发词的输入，且不修改适配器参数。作者观察到约5%的LoRA插入位点在干净输入下保持稳定，遇到触发词时下投影激活出现高度集中的尖峰；方法在部署前定位这些低方差位点并在推理时监控。作者报告在标准LLM后门基准上拒绝98.49%的恶意输入，干净输入错误率较低。

要点速读

1. 论文指出不可信LoRA适配器带来供应链威胁，触发词可诱导模型输出有害内容、恶意代码或隐蔽广告。
2. LoRAScan在部署前识别约5%的低方差插入位点，推理时监控其下投影激活尖峰以拒绝触发输入。
3. 作者报告在标准LLM后门基准上拒绝98.49%的恶意输入，干净输入错误率较低，并称优于现有防御。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。