跳到正文
AGI Hunt· IDonLikeAds·· 2 小时前AI 评分26

MiniMax H3-Image LoRA W4A8 量化训练出现块状伪影,作者求解

W4A8 量化训 H3-Image LoRA 出现块状伪影,作者求解

AI 导读

一位作者在 AI-Toolkit 训练 MiniMax H3-Image 的 LoRA 时,因仅有 16GB 显存和 64GB 内存而采用 W4A8 量化规避 OOM,结果生成结果出现块状伪影。Sigmoid 激活训练同样出错,作者正尝试默认的 Shift,并怀疑量化方案过于粗糙,向社区征集经验与规避方法。

来源:AGI Hunt · agihunt.info