SpecSlot：解耦细节与全局注意力的像素空间生成Transformer

SpecSlot让高频细节走局部、低频结构走全局，降低全局注意力开销。

资讯摘要

论文提出像素空间整流流Transformer SpecSlot，将每个空间锚点扩展为多个槽位，各槽位分配互不重叠的DCT频带，仅最低频槽位参与全局注意力，其余槽位局部交互，从而在不扩大全局序列的前提下提升频谱细节。作者报告在ImageNet-256上收敛更快，ImageNet-512上FID较对照提升2.84且FLOPs少3.9%，文本到图像任务在DPG-Bench上超过JiT-B/8 1.06分。

要点速读

1. SpecSlot将每个空间锚点扩展为多个槽位，各槽位对应不相交的DCT系数频带，使锚点密度与频谱细分分离。
2. 仅每个锚点的最低频槽位进入全局注意力，所有槽位在局部交互，空间头对频谱预测做局部修正，生成状态、目标与损失仍在像素空间。
3. 作者报告ImageNet-512上FID较FLOPs匹配的JiT对照提升2.84、FLOPs少3.9%，文本到图像在DPG-Bench上超JiT-B/8 1.06分、前向成本低40.6%。

中文摘要由 AI 根据公开来源生成，可能存在理解偏差；具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/10/31 08:00:18（北京时间）。