回到最新动态
研究论文 / THE SIGNAL

模型改写真实新闻时,来源一致性指标漏掉了哪些失真

What Breaks When Facts Become Stories? The Distortions Source-Agreement Metrics Miss When Models Retell Real Events

重要性 5.5 AI 辅助整理

来源一致性指标会漏掉模型改写故事时放大的问责失真。

资讯摘要

论文指出,用来源一致性衡量模型改写真实事件会误判:在重构任务中,偏离来源可能是目标,按原标准会把有意偏离算作错误,放宽标准又会放过真实失真。作者让三个模型家族把2000篇新闻改写成摘要和故事,按五个W逐轴测量变化,并判断每处失真是否由指定视角合理支撑,约三分之一被排除。时间与方式被替换而非丢失,地点与因果丢失了承载表达;问责失真在摘要中少见,在故事中最高升至七倍,其中可判方向者三分之二减轻了施害者责任。此类失真能通过声明级事实核查,且改写文本语法更干净。作者发布ReTold-2k语料及评分协议和逐评审基线。

要点速读

  1. 三个模型家族将2000篇新闻改写为摘要和故事,按五个W逐轴测量变化并判断失真是否由视角合理支撑。
  2. 问责失真在摘要中几乎不出现,在故事中最高升至七倍,可判方向者中三分之二减轻施害者责任。
  3. 作者发布ReTold-2k可重构语料,附评分协议与未聚合的逐评审基线。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.AI 原文arxiv.org · 在新窗口打开