Cobras 用薛定谔桥推导激活引导目标并提升多任务表现。
资讯摘要
论文提出 Cobras,将大语言模型激活引导建模为残差流超球面上的薛定谔桥问题,由此从优化问题推导出对数密度比引导目标,并构造查询自适应引导场,使对数密度比引导成为其极限情形。作者报告在四个模型上,Cobras 在有用性、真实性和去毒等任务中几乎全部优于既有引导方法,且较好保持分布外性能;拟合的传输还提供支持分数以控制分布外干预。代码已公开。
要点速读
- 将激活引导表述为残差流超球面上的薛定谔桥,给出对数密度比目标的推导。
- 构造查询自适应引导场,对数密度比引导为其极限情形,并用支持分数控制分布外干预。
- 作者报告在四个模型、有用性/真实性/去毒任务中几乎全部优于先前方法,并较好保持 OOD 性能。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。