跳到正文
AGI Hunt· BenBlaiszik·· 3 小时前AI 评分44

UMA Nitro 发布:单张 H200 上千原子体系推理速度达 6 ns/天

UMA Nitro 发布:单张 H200 上千原子体系达 6 ns/天

AI 导读

微软团队发布 UMA Nitro 推理加速方案,将 UMA 原子级机器学习模型的模拟速度提升至单张 H200 GPU 每天 6 ns(1000 原子体系)。约 150 原子的小体系原始推理速度最高可达每天 33 ns,目前该方案已开放试用。

来源:AGI Hunt · agihunt.info