AGI Hunt· casper_hansen_·· 2 小时前AI 评分58
Big-MoE-Small-Box 将 328GB GLM-5.3-Flash 量化至 125GB 本地运行
2500 美元单卡方案把 328GB GLM-5.3-Flash 压到 125GB 本地跑
AI 导读
开源项目 Big-MoE-Small-Box 将 328GB 的 GLM-5.3-Flash 以 3-bit 量化压缩至 125GB，可在单张 24GB GPU、64GB RAM 和 NVMe 上运行。
来源：AGI Hunt · agihunt.info