回到最新动态
研究论文 / THE SIGNAL

语法错误会加剧大模型社会偏见

Investigating the Impact of Learner Errors on Social Bias in Large Language Models

重要性 5.0 AI 辅助整理

语法错误会加剧大模型社会偏见,且随错误率上升。

资讯摘要

论文关注非母语写作者的语法错误如何影响大语言模型的社会偏见。作者构建受控框架,向提示注入常见学习者错误,并在覆盖性别、种族、宗教刻板印象对齐与人口偏好的三个偏见基准上测试。结果显示语法错误会提高偏见,且随错误率上升而增强;四类错误中介词错误影响最大最一致。作者认为错误干扰理解时偏见更明显,用错误文本微调可降低该增幅。

要点速读

  1. 论文提出受控框架,将常见学习者语法错误注入提示,并在三个社会偏见基准上评估。
  2. 实验发现语法错误会提高偏见且随错误率增长,介词错误带来的刻板印象对齐增幅最大最一致。
  3. 作者报告用错误文本微调可减少语法错误导致的偏见上升,并指出仅用规范英语提示的偏见评估可能低估非母语用户遭遇的偏见。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/23 08:00:11(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开