回到最新动态
研究论文 / THE SIGNAL

论文研究大模型乘法错误的内部机制

"Close enough?" An investigation into multiplication errors in LLMs

重要性 5.0 AI 辅助整理

论文发现大模型乘法错误呈现保奇偶与差一进位两种模式。

资讯摘要

一篇论文评估多个小型基础大模型在16,991道乘法题上的表现,题目覆盖不同操作数长度。作者报告乘法错误不符合加法研究中提出的“噪声量化”模型,而是在小型Qwen模型中发现新的错误模式:低位数字的错误大多保持奇偶性,高位数字的错误则偏向差一进位的失败。论文据此提出,大模型的算术计算依赖多种周期性的内部表示,其中奇偶性比精确数字身份被更稳健地追踪。

要点速读

  1. 论文在16,991道不同操作数长度的乘法题上评估多个小型基础大模型。
  2. 作者报告乘法错误不符合加法式的噪声量化模型,小型Qwen模型呈现低位保奇偶、高位偏差一进位的错误模式。
  3. 论文提出大模型算术依赖多种周期性的内部表示,奇偶性比精确数字身份更稳健。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开