跳到正文
热点事件持续更新

公开四机DGX Spark本地部署GLM配方

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

开发者 tenhkspark 公开一套 GitHub 本地推理配方,以4台配备GB10芯片、各有128GB统一内存的 DGX Spark 运行 GLM-4.6-Flash;作者称该方案可支持100万上下文和16路并发。 由于官方推荐安装方式无法达到上述上下文和并发规模,作者更换了推理加载器,并称相关修改经代码审计确认安全。仓库以MIT协议开放,包含性能与突发负载测试脚本、实测数据及多语言说明,另附在GB10上自行部署 Nemotron Parse 文档图像模型的方法。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. AGI Hunt
    4 台 DGX Spark 集群部署 GLM-4.6-Flash 的 1M 上下文配方

    开发者 tenhkspark 公开了使用 4 台 DGX Spark 搭建全本地推理集群的 GitHub 配方,运行 GLM-4.6-Flash 并支持 1M 上下文和 16 路并发。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。