跳到正文
AGI Hunt· AIFlow_ML·· 3 小时前AI 评分64

4 台 DGX Spark 集群部署 GLM-4.6-Flash 的 1M 上下文配方

4 台 DGX Spark 集群跑 GLM-4.6-Flash:1M 上下文 16 并发的本地部署配方

AI 导读

开发者 tenhkspark 公开了使用 4 台 DGX Spark 搭建全本地推理集群的 GitHub 配方,运行 GLM-4.6-Flash 并支持 1M 上下文和 16 路并发。

来源:AGI Hunt · agihunt.info