论文用最优传输在因果路由子空间重定向不安全激活。
资讯摘要
论文提出 TraceRouter++，一种路由级安全干预框架，用于提升大基础模型对对抗攻击的鲁棒性。该方法按“发现—追踪—对齐”流程：先用注意力分歧定位敏感起始层，用稀疏自编码器（SAE）将稠密激活分解为可解释路由特征，再通过特征影响分数（FIS）映射到下游因果回路；随后以约束最优传输（OT）软路由对齐，将不安全激活边缘分布转向安全参考分布。作者报告在 LLM、MLLM 与扩散模型上优于所评估基线，并保持安全与效用的权衡。
要点速读
- 论文指出有害语义呈分布式跨层回路，局部神经元或特征消融对复杂越狱脆弱且损害通用效用。
- TraceRouter++ 用注意力分歧定位敏感起始层，以 SAE 分解激活并用 FIS 追踪下游因果回路。
- 作者报告在 LLM、MLLM 和扩散模型上优于所评估基线，并维持安全与效用的权衡。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。