论文用OW框架红队测试30多个LLM的政治表达与越狱效果。
资讯摘要
论文提出一个实证红队测试框架，用于衡量大语言模型的“奥弗顿窗口”（OW），即模型对抽样政治观点表达的忠实度，并量化简单自然语言越狱如何改变这些得分。作者在英语、美国相关目标观点上评估了来自10个模型家族、5个国家的30多个LLM，报告称模型对左倾内容的表达忠实度更高、平均OW得分随模型规模增大而下降，且越狱效果在不同模型家族间差异明显。
要点速读
- 框架测量LLM Overton Windows（OW），汇总抽样政治观点的表达忠实度，并量化自然语言越狱对得分的影响。
- 评估覆盖10个模型家族、5个国家的30多个LLM，目标观点为英语、美国相关。
- 作者报告政治表达存在系统性不对称：左倾内容忠实度更高，平均OW得分随模型规模下降，越狱效力因模型家族而异。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/24 08:00:37（北京时间）。 arXiv 日期为本次公告时间，论文初次投稿日期请查看原文版本记录。