回到最新动态
论文更新 / THE SIGNAL

论文:LLM并非随机鹦鹉,具备意义中介抽象能力

LLMs are not stochastic parrots: Evidence for meaning-mediated abstraction from conlang-like tasks

重要性 5.5 AI 辅助整理

论文用类人造语言任务反驳强“随机鹦鹉”假设。

资讯摘要

一篇论文用类人造语言任务检验“随机鹦鹉”强假设:仅向多个LLM提供虚构语言的自然语言描述,不给出示例输出,且这些描述刻意组合训练数据中罕见或未出现的特征。论文报告,模型在三个互补任务族中系统性地朝意义预测方向作答,能区分提示中出现与指示使用,并会依据新约束改变语义关系,有时与复杂翻译答案完全一致。作者据此认为结果支持LLM存在意义中介的抽象,反驳强随机鹦鹉假设,但生成仍受表面合理性约束。

要点速读

  1. 任务只给虚构语言的自然语言描述、不给示例输出,且特征刻意偏离训练数据中的常见模式。
  2. 论文报告模型在三个任务族中朝意义预测方向作答,有时与复杂翻译答案完全一致。
  3. 作者认为这支持意义中介抽象,但指出生成仍强烈受表面合理性约束。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/28 08:00:17(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开