上下文线性激活引导 CLAS 提出

CLAS 让激活引导强度随上下文变化并支持分段引导。

资讯摘要

论文提出 Contextual Linear Activation Steering（CLAS），将激活引导分解为固定引导方向与随上下文变化的引导系数，从而在保持方向可解释性的同时让引导强度随输入调整，并支持在同一次生成的不同片段上引导多种行为。作者报告在多项引导基准和语言模型上，CLAS 稳定优于标准线性激活引导，在标注数据有限时与 ReFT、LoRA 持平或更好，且所用方向可作为概念监测器。

要点速读

1. CLAS 把激活引导拆成固定方向与上下文相关的系数，引导强度可随输入变化。
2. 该分解支持选择性引导，可在单次生成的不同部分施加不同行为。
3. 作者报告 CLAS 在多项基准上优于标准线性激活引导，标注数据有限时与 ReFT、LoRA 持平或更好。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。