回到最新动态
交叉发布 / THE SIGNAL

PixelBench:LLM能否逐像素理解与生成图像

PixelBench: Can LLMs Understand and Generate Images Pixel by Pixel?

重要性 5.5 AI 辅助整理

论文用PixelBench测试LLM直接逐像素生成图像,并提出PRT后训练方法。

资讯摘要

论文提出PixelBench基准,测试大语言模型不借助图像分词器或解码器、仅用现有词表直接生成像素图像的能力,涵盖多分辨率下的文本到像素(T2P)与图像到像素(I2P)生成,并配套像素理解评测。作者报告最强模型在T2P中可直接从文本生成可辨识图像,在低分辨率I2P中优于调色板匹配下采样与专用像素化算法;像素理解表现与生成表现强相关。分辨率扩展研究显示性能常先升后降。论文还提出Pixel Reconstruction Tuning(PRT),将描述-调色板-网格轨迹混入视觉指令微调,从预训练检查点后训练Molmo2-4B,在16个视觉基准上提升。

要点速读

  1. 论文提出PixelBench,评测LLM以调色板加索引网格方式直接生成像素图像,无需学习式图像分词器或解码器。
  2. 作者报告最强模型在T2P中可生成可辨识图像,低分辨率I2P优于调色板匹配下采样和专用像素化算法,且像素理解与生成表现强相关。
  3. 论文提出PRT方法,将PRT数据与通用指令数据混合后训练Molmo2-4B,在16个视觉中心基准上取得提升。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开