VIAS 通过隔离价值观向量提升多价值观合规率。
资讯摘要
论文提出 VIAS(Value-Isolating Activation Steering),通过对比同一场景下列出全部相关价值观与省略单一目标价值观的两种提示响应,筛选出目标价值观由合规转为不合规、且其他价值观仍达最低合规水平的样本对,从而构建更隔离的价值观向量。在 PROTECT 职场合规数据集上,VIAS 降低了价值观向量间的重叠,但作者指出这本身并未实现对各价值观的独立控制;与提示结合后,Qwen2.5-7B、Mistral-7B、Phi-3.5-mini 分别有 69.6%、75.2%、72.6% 的场景满足全部标注价值观,均优于单独提示。
要点速读
- VIAS 用同一场景下“列出全部价值观”与“省略单一目标价值观”的提示对比来构建价值观向量,仅保留目标价值观合规性发生翻转的样本对。
- 在含 21 类价值观标签的 PROTECT 职场合规数据集上,VIAS 减少了价值观向量间的重叠,但作者报告这并未带来对每个价值观的独立控制。
- 与提示结合后,全部标注价值观均合规的场景比例为 Qwen2.5-7B 69.6%、Mistral-7B 75.2%、Phi-3.5-mini 72.6%,三个模型均超过单独提示。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。