AGI Hunt· ying11231·· 2 小时前AI 评分57
SGLang 并入 NVIDIA AI Enterprise,NVIDIA NIM 认证微服务上线
SGLang 正式并入 NVIDIA AI Enterprise,NIM 认证微服务上线
AI 导读
SGLang 已作为 NVIDIA AI Enterprise 的一部分提供,基于 SGLang 构建的 NVIDIA NIM 认证微服务为企业提供生产级推理路径。SGLang 提供 Unified Radix Cache、Breakable CUDA Graph 和广泛的模型支持,NVIDIA NIM 则提供验证容器、部署配置、漏洞扫描、安全维护与企业支持。
来源:AGI Hunt · agihunt.info