跳到正文
AGI Hunt· BakaPotatoLord·· 4 小时前AI 评分62

ComfyUI-INT8-LoRA 节点支持 LoRA 量化,体积最高节省 75%

INT8 量化 ComfyUI 节点:LoRA 体积最高省 75%,1134MiB 缩到 284MiB

AI 导读

ComfyUI-INT8-LoRA 开源自定义节点包可将 LoRA/LoKr 文件以 INT8 存储,加载时在内存解码并应用,FP32 LoRA 约节省 75%,BF16/FP16 约节省 50%。实测 8-step MOSS LoRA 从 1134 MiB 降至 284 MiB,提供单文件量化、文件夹批量量化和 INT8 LoRA 加载节点,但只节省存储,不节省 RAM/VRAM。

来源:AGI Hunt · agihunt.info