资讯摘要
论文提出 Halcyon 系列早期融合多模态自回归模型，完全从零在 1 亿图文对数据集 GPIC 上预训练，探讨语言预训练对强文本到图像生成是否必要。作者报告 Halcyon-0.52B 以 48.0 对 63.3 的 gFD 优于 LlamaGen-XL/8，预训练算力少 18.2 倍；Halcyon-1.6B 以 35.3 对 41.0 的 gFD 优于 JiT-T2I-XXL/8++，算力少 275 倍。受控实验显示纯文本预训练未提升 T2I 生成。
要点速读
- 论文提出 Halcyon 早期融合多模态自回归模型，在 1 亿图文对数据集 GPIC 上从零预训练。
- 作者报告 Halcyon-0.52B 的 gFD 为 48.0，优于 LlamaGen-XL/8 的 63.3，预训练算力少 18.2 倍。
- 作者报告 Halcyon-1.6B 的 gFD 为 35.3，优于 JiT-T2I-XXL/8++ 的 41.0，预训练算力少 275 倍；受控实验显示纯文本预训练未改善 T2I 生成。
中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/21 02:34:38（北京时间）。