跳到正文
AGI Hunt· ying11231·· 25 分钟前AI 评分41

Intel 携手 RadixArk 优化 SGLang,代码将回馈上游

AI 导读

Intel 宣布与 RadixArk 合作,针对 Intel CPU、GPU 与加速器优化开源推理栈 SGLang,相关改进将直接贡献至上游。目标是在 Intel 平台支持 Day-0 高性能部署主流开源模型,以开放、异构的推理基础设施适配不同负载与成本需求。

来源:AGI Hunt · agihunt.info