跳到正文
AGI Hunt· anneouyang·· 3 小时前AI 评分46

Standard Kernel 与 CoreWeave 合作展示自主系统,自动优化 LLM 推理并使 GLM-5.3 流量最高提升 63%

Standard Kernel 与 CoreWeave 合作自动优化推理:GLM-5.3 流量提升 63%

AI 导读

Standard Kernel 与 CoreWeave 合作展示自主系统,通过自动调优引擎配置和定制 GPU kernel 实现 LLM 推理端到端优化,替代人工调优。测试显示,GLM-5.3 承载流量最高提升 63%,Qwen3.8-27B 单用户吞吐量提升 2 倍,DeepSeek V4.1 Flash 吞吐量提升 10%。

来源:AGI Hunt · agihunt.info