跳到正文
AGI Hunt· ostrisai·· 2 小时前AI 评分34

ostris 预训练 Primal VAE:仅 2x 下采样 1 通道的激进新方案

ostris 预训练「Primal VAE」:仅 2x 下采样 1 通道的激进新方案

AI 导读

ostris 正预训练概念 VAE Primal VAE,以 2 倍空间下采样至 1 通道,对 latent 做 patch 4 后等效于 8 倍压缩、16 通道,与现代主流 VAE 相同。当前仅使用 LPIPS 和 MAE 预训练,即将加入 critic,并通过范数与噪声一致性 loss 及 EQVAE 的 latent 翻转与旋转技巧改善扩散建模。

来源:AGI Hunt · agihunt.info