跳到正文
AGI Hunt· TheZachMueller·· 3 小时前AI 评分64

英伟达正式支持8节点DGX Spark集群,900M训练扩展效率达97.4%

英伟达 8 节点 DGX Spark 集群转正:900M 训练扩展效率达 97.4%

AI 导读

英伟达在Your Local AI Lab协助下,正式支持由ConnectX-7互联的8节点DGX Spark集群,并公布训练与推理扩展结果。从零训练900M参数模型加速7.79倍,扩展效率达97.4%;同一集群服务27B模型时,prefill加速1.94倍、decode加速4.43倍。

来源:AGI Hunt · agihunt.info