告别VAE和ViT! 英伟达开源PixelUMM, 在像素空间统一视频图像理解与生成
告别VAE和ViT! 英伟达开源PixelUMM, 在像素空间统一视频图像理解与生成统一多模态模型(Unified Multimodal Models, UMMs)通常为理解和生成分别使用不同的视觉表示:用 ViT 提取理解所需的语义特征,用 VAE 提供生成所需的潜变量。这样一来,同一张图像要以两种 token 进入上下文,视觉上下文随之变长;这种双流接口也不同于视觉-语言模型(VLM)常用的单一视觉流,难以直接沿用成熟的 VLM 预训练流程。
来自主题: AI技术研报
8553 点击 2026-11-02 10:33