AGI Hunt· ostrisai·· 2 小时前AI 评分34
ostris 预训练 Primal VAE:仅 2x 下采样 1 通道的激进新方案
ostris 预训练「Primal VAE」:仅 2x 下采样 1 通道的激进新方案
AI 导读
ostris 正预训练概念 VAE Primal VAE,以 2 倍空间下采样至 1 通道,对 latent 做 patch 4 后等效于 8 倍压缩、16 通道,与现代主流 VAE 相同。当前仅使用 LPIPS 和 MAE 预训练,即将加入 critic,并通过范数与噪声一致性 loss 及 EQVAE 的 latent 翻转与旋转技巧改善扩散建模。
来源:AGI Hunt · agihunt.info