跳到正文
AGI Hunt· NVIDIA Blog·· 5 小时前AI 评分65

NVIDIA 发布 Dynamo 优化配方,提升四款韩国开源模型部署性能

NVIDIA 发布 Dynamo 优化配方:韩国四大开源模型部署性能提升至 2 倍

AI 导读

NVIDIA 面向 A.X K2、K-EXAONE 2.0、Solar Open 2 和 Motif-3 发布 Dynamo 优化部署配方,开箱可实现最高 2 倍性能提升。配方针对 B200 GPU 优化,解决模型超出单卡容量后的多 GPU 切分、请求路由与通信协调问题。

来源:AGI Hunt · agihunt.info