AIxiv專欄是本站發布學術、技術內容的欄位。過去數年，本站AIxiv專欄接收通報了2,000多篇內容，涵蓋全球各大專院校與企業的頂尖實驗室，有效促進了學術交流與傳播。如果您有優秀的工作想要分享，歡迎投稿或聯絡報道。投稿信箱：liyazhou@jiqizhixin.com；zhaoyunfeng@jiqizhixin.com
在生成式模型的迅速發展中，Image Tokenization 扮演著一個很重要的角色依賴，例如Diffus也會依賴的依賴的。這些Tokenizers會將影像編碼至一個更緊湊的隱空間（latent space），使得產生高解析度影像更有效率。 然而，現有的Tokenizer通常會將輸入圖像映射為隱空間的一個降採樣後的2D矩陣，這一設計隱式的限制了token與圖像之間的映射關係，導致其很難有效的利用影像中的冗餘資訊（例如相鄰的區域經常會有類似的特徵）來獲得一個更有效的影像編碼。 為了解決這個問題，字節跳動豆包大模型團隊和慕尼黑工業大學提出了全新的1D圖像Tokenizer：TiTok，這一Tokenizer打破了2D Tokenizer的設計局限，可以將整個圖片壓縮至更為緊湊的Token序列。 
- 論文連結：https://arxiv.org/abs/2406.07550
- 專案連結：https://yucornetto.githgitho.io/projects https://github.com/bytedance/1d-tokenizer
對於256 x 256解析度的圖片，TiTok最少只需32個Token就可以表達，比通常2D Tokenizer的256或Token顯著減少。 512 x 512解析度的圖片，TiTok最少僅需64個Token，64倍小於Stable Diffusion的VAE Tokenizer。此外，在ImageNet影像產生此任務上，使用TiTok作為Tokenizer的生成器在生成品質和生成速度上都有顯著提升。
在256分辨率，TiTok獲得了1.97的FID，顯著超過使用同樣生成器的MaskGIT 4.21。在512解析度TiTok可以獲得2.74的FID，不僅超過了DiT（3.04），並且相比DiT在影像生成上加速了驚人的410倍！ TiTok的最好變種取得了2.13的FID，顯著超過DiT的同時仍舊有74倍的加速。
影像所需Token中產生了顯著的產生速度，但是同時維持了高品質的影像生成。 
TiTok的結構非常簡單，編碼器和解碼器部分在各自是一個Vipat，在編碼過程中，一組latchesimage s會在別後，過完編碼器後，僅保留latent tokens並進行quantization的過程。所得的quantized latent tokens將會與一組mask tokens拼接在一起，一併送入解碼器，從mask token序列中重建出影像。 研究者进行了一系列实验研究关于不同数量的用于表示图像的token，不同的tokenizer大小，重建表现，生成表现，linear probing准确率，以及训练和推理速度的比较。在这一过程中，研究者发现（1）仅需32个Token便能取得很好的重建与生成效果（2）通过增大Tokenizer的模型大小，研究者可以使用更少的Token来表示图片（ 3）当图片使用较少的Token来表示时，Tokenizer会学到更强的语义信息（4）使用更少的Token来表示图片时，训练和推理速度都有了显着的提升。 
此外，视频中展示了使用不同的Tokenizer大小以及Token数目时所重建出的图片，可以看到更大的Tokenizer可以在有限的Token下重建出质量更好的图像。此外，当仅有有限Token时，模型更倾向于保留显着区域有更好的重建效果。 
研究者主要在ImageNet-1k的256 x 256分辨率以及512 x 512分辨率上进行了与其他方法的比较。可以看到，尽管TiTok使用有限的Token数目，但是可以和其他使用更多Token的方法取得相当的重建效果（rFID），使用较少的Token数目让TiTok在维持较高的生成图片质量（gFID）的同时有着显着快于其他方法的生成速度。 例如TiTok-L-32获得了2.77的gFID score，同时可以以每秒101.6张图片的速度进行图片生成，这一速度显着快于其他Diffusion Models （169倍快于DiT）或者Transformer Models （339倍快于ViT-VQGAN）.
TiTok使用较少Token的优势在更高分辨率的图像生成上更加明显，其中TiTok-L-64仅使用64个Token就能完成高质量的512分辨率图像的重建与生成，生成图像的质量不仅高于DiT (2.74 v.s. 3.04)，同时生成速度提高了近410倍。 
在本文中，研究者专注于一个全新的1D Image Tokenizer，并提出了一种全新的Tokenizer来打破现有2D Tokenizer中的局限，进而更好的利用图像中的冗余信息。 TiTok仅需少量的Token（比如32个）来表示图像，同时仍旧能进行高质量的图像重建与生成。在ImageNet的256分辨率和512分辨率生成实验中，TiTok不仅取得了超过Diffusion Models的生成质量，同时有着百倍更快的生成速度。 字节跳动豆包大模型团队成立于2023 年，致力于开发业界最先进的AI 大模型技术，成为世界一流的研究团队，为科技和社会发展作出贡献。 豆包大模型团队在AI领域拥有长期愿景与决心，研究方向涵盖NLP、CV、语音等，在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源，在相关领域持续投入，已推出自研通用大模型，提供多模态能力，下游支持豆包、扣子、即梦等50+业务，并通过火山引擎开放给企业客户。目前，豆包APP已成为中国市场用户量最大的AIGC应用。 欢迎加入字节跳动豆包大模型团队，点击下方链接即可进入字节跳动 Top Seed 计划：以上是字節豆包全新圖像Tokenizer：生成圖像最低只需32個token，最高提速410倍的詳細內容。更多資訊請關注PHP中文網其他相關文章！
