AGI Hunt· AccBalanced·· 3 小时前AI 评分57
SGLang 与 RadixArk 发布 MegaKernel + PD 分离方案
SGLang MegaKernel+PD 发布：高并发吞吐与低延迟兼得，TCO 大幅优化
AI 导读
SGLang 与 RadixArk 发布 MegaKernel + PD 分离方案，面向高并发服务提升吞吐并降低延迟。
来源：AGI Hunt · agihunt.info
SGLang 与 RadixArk 发布 MegaKernel + PD 分离方案