回到最新动态
研究论文 / THE SIGNAL

IdeaTaste:LLM能否复现人类研究品味

IdeaTaste: Do LLMs Share the Research Taste of Human Researchers?

重要性 5.5 AI 辅助整理

LLM能找对研究方向,却难以给出社区实际采用的具体方案。

资讯摘要

论文提出IdeaTaste基准,用2025年冻结的文献快照让LLM撰写研究提案,再与同一社区2026年实际发表的论文比对,以衡量其“研究品味”。实验覆盖六个当代语言模型和四个研究领域,共生成逾9万份提案。作者报告:LLM在引用匹配上约为人类水平的26%,在想法匹配上仅18%;即便提供更丰富的领域上下文或扩大群体规模,差距也未明显缩小。盲审专家认为AI提案在呈现上差距最小,在预期成功率上差距最大。

要点速读

  1. IdeaTaste以2025年文献快照生成提案,与2026年真实发表论文比对评分。
  2. 实验覆盖六个语言模型、四个研究领域,共逾9万份提案。
  3. 作者报告引用匹配约26%、想法匹配约18%,且更丰富上下文或更大群体规模未显著缩小差距。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。

阅读 Daily Papers 原文arxiv.org · 在新窗口打开