类比方向普遍存在，其可激活性取决于指令暴露程度。
资讯摘要
论文从残差流中用均值差法提取“Analogy Vector”，在Gemma-2、Llama-3.1、Qwen-2.5等七个指令微调模型（2B–32B）上实现可引导的类比解释风格；作者报告Gemma-2-9B-IT在300条留出测试提示上调和均值从3.22升至3.94（+22%）。基于七组基座-指令配对，作者发现类比方向存在于所有基座模型，但其行为可及性随训练中的指令暴露程度连续变化。
要点速读
- 论文用均值差法从残差流提取“Analogy Vector”，在七个指令微调模型上实现可引导的类比解释风格。
- 作者报告Gemma-2-9B-IT在300条留出测试提示上调和均值由3.22提升至3.94（+22%），并做了小规模人工验证。
- 七组基座-指令配对显示：类比方向在各基座模型均存在，但线性干预下的行为可及性随指令暴露程度连续变化；Qwen-2.5基座-指令类比向量余弦相似度为0.94–0.97，Gemma为0.37–0.66。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。