瓶颈才是信息杀手：TC-AE 如何让 64 个 token 生成出 2.57 gFID 的图像

一个反直觉的数字在 ImageNet 256×256 图像生成任务上，当前主流的深度压缩 tokenizer（如 DC-AE）需要 607 GFLOPs 才能达到 gFID 26.44。而蚂蚁集团 inclusionAI 和港科大的合作论文TC-AE（arXiv:2604.07340）用仅 164 GFLOPs（不到前者的三分之一）达到了gFID 2.57——性能提升 10 倍，计算量降低 4 倍。这个结果不是靠更大的模型、更多的数据、或更复杂的架构。它靠的是一个反直觉的洞察：问题不在你看到了多少，而在你如何压缩你看到的。背景：深度压缩的"通道膨胀"陷阱潜在扩散模型（Latent Diffusion Models, LDMs）的工作流程很简单：tokenizer 把图像压缩成潜在表示，扩散模型在潜在空间里生成。tokenizer 压缩得越狠，扩散模型越高效——因为潜在空间越小，扩散计算越便宜。"深度压缩"指的是空间压缩比达到 32 倍甚至更高（比如把 256×256 的图像压成 8×8 的潜在表示）。为了在这种极端压缩下保持重建质量，主流方法（DC-AE、ViTok 等）采用了一个朴素策略：空间压得狠，通道补回来——把潜在表示的通道数从 4 扩到 16、32 甚至 128。但这个策略有一个副作用：潜在表示崩溃（latent representation co