公开四机DGX Spark本地部署GLM配方
热点事件持续更新
公开四机DGX Spark本地部署GLM配方
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
开发者 tenhkspark 公开一套 GitHub 本地推理配方,以4台配备GB10芯片、各有128GB统一内存的 DGX Spark 运行 GLM-4.6-Flash;作者称该方案可支持100万上下文和16路并发。 由于官方推荐安装方式无法达到上述上下文和并发规模,作者更换了推理加载器,并称相关修改经代码审计确认安全。仓库以MIT协议开放,包含性能与突发负载测试脚本、实测数据及多语言说明,另附在GB10上自行部署 Nemotron Parse 文档图像模型的方法。
AI 根据报道生成 · 2 小时前更新
最新进展10月25日 11:54
4 台 DGX Spark 集群部署 GLM-4.6-Flash 的 1M 上下文配方报道时间线
沿着报道,了解事件的不同侧面。
10月25日
- AGI Hunt4 台 DGX Spark 集群部署 GLM-4.6-Flash 的 1M 上下文配方
开发者 tenhkspark 公开了使用 4 台 DGX Spark 搭建全本地推理集群的 GitHub 配方,运行 GLM-4.6-Flash 并支持 1M 上下文和 16 路并发。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。