AGI Hunt· ButtercupLyn100·· 3 小时前AI 评分62
OpenBonsai 开源三值 GGUF 压缩流程,将 Qwen3.5-9B 压至 1.997GB
OpenBonsai 开源:9B 模型压到约 2GB 三值 GGUF,RTX 5090 五小时完成
AI 导读
开发者以 Apache-2.0 开源 OpenBonsai,提供从 BF16 模型到三值 GGUF 的压缩流程,并兼容 Prism ML Ternary Bonsai 的 PTQ10 格式。
来源:AGI Hunt · agihunt.info