跳到正文
AGI Hunt· ProcedureFit789·· 3 小时前AI 评分50

Reddit 用户开源 ComfyUI 本地 LLM 提示词增强节点:用完即卸载,不占扩散模型显存

ComfyUI 本地 LLM 提示词增强节点:用完即卸载,不占扩散模型显存

AI 导读

Reddit 用户开源 ComfyUI 自定义节点,用本地 LLM 将短提示词扩写为详细文生图 prompt,生成后卸载模型并释放扩散模型显存。节点采用自研 PyTorch + Triton 推理引擎,支持 Qwen3.5 的 W8A16(0.8B)与 W4A16(2B)权重;作者在 RTX 2050(4GB 显存)设备上实测,并提醒 offload 仍需预留系统内存。

来源:AGI Hunt · agihunt.info