AGI Hunt· nirmal_dist·· 4 小时前AI 评分51
Modal 多节点集群正式 GA,支持容器集群分布式训练
Modal 多节点集群正式 GA,分布式训练者实测称「速度解锁」
AI 导读
Modal 多节点集群功能正式 GA,可将 Function/Server 运行在共置联网的容器集群中,并支持可选 RDMA 网络加速 GPU 集合通信。每个容器需占满宿主机全部 GPU,例如 H100:8,不支持纯 CPU 集群;输入会广播至所有容器,默认仅返回 rank 0 输出,容器内可通过 modal.Cluster.fromcontext() 获取 rank 与 IP。
来源:AGI Hunt · agihunt.info