Together AI GPU集群上线自动节点修复

Together AI宣布，其GPU集群已支持自动节点修复（auto repair），可自动完成GPU故障检测到节点恢复健康的流程；该功能于年初上线，目前其内部推理平台及GPU集群客户已在使用。 被动健康检查覆盖虚拟机及底层宿主机，可识别Xid错误、双位ECC错误、GPU掉PCIe总线和InfiniBand链路抖动。用户可配置允许无人值守执行的修复方式，最细可按单个Xid错误码设置。Together AI称，此功能旨在提升分布式训练和推理的韧性、减少停机。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。