模型会响应来源权威线索,但不可信证据仍能影响其动作选择。
资讯摘要
论文提出一种按目标区分的授权审计方法,对每个工具和参数目标分别标注上下文因素,在固定任务、命题、位置与策略的前提下仅改变命题来源的权威性。作者在450个受控下一动作任务和多个开放权重模型家族上报告:可信与不可信变体在竞争性案例中有5.4%产生不同动作,支持性案例为1.7%;受控降级下出现未授权竞争的比例为2.4%(95%置信区间2.1%–3.0%)。作者强调这些是受控压力测试比率,并非部署中的普遍比例。
要点速读
- 审计方法按工具和参数目标分别标注上下文因素的授权状态,并仅改变命题来源权威性进行对照测试。
- 在450个受控任务与多个开放权重模型上,竞争性案例中可信与不可信变体动作差异率为5.4%,支持性案例为1.7%。
- 受控降级下未授权竞争以全对、混合错误、干净正确模式出现于2.4%的比较中,作者称这是压力测试比率而非部署普遍率。
中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/5 08:00:38(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。