跳到正文
AGI Hunt· ButtercupLyn100·· 3 小时前AI 评分62

OpenBonsai 开源三值 GGUF 压缩流程,将 Qwen3.5-9B 压至 1.997GB

OpenBonsai 开源:9B 模型压到约 2GB 三值 GGUF,RTX 5090 五小时完成

AI 导读

开发者以 Apache-2.0 开源 OpenBonsai,提供从 BF16 模型到三值 GGUF 的压缩流程,并兼容 Prism ML Ternary Bonsai 的 PTQ10 格式。

来源:AGI Hunt · agihunt.info