自主系统优化大模型推理吞吐量
热点事件持续更新
自主系统优化大模型推理吞吐量
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Standard Kernel与CoreWeave展示了一套端到端优化大模型推理的自主系统,可自动调整引擎配置并定制GPU kernel,替代部分人工调优。 其测试显示,GLM-5.3承载的流量最高提升63%,Qwen3.8-27B的单用户吞吐量提升至原来的2倍,DeepSeek V4.1 Flash吞吐量提升10%。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- AGI HuntStandard Kernel 与 CoreWeave 合作展示自主系统,自动优化 LLM 推理并使 GLM-5.3 流量最高提升 63%
Standard Kernel 与 CoreWeave 合作展示自主系统,通过自动调优引擎配置和定制 GPU kernel 实现 LLM 推理端到端优化,替代人工调优。测试显示,GLM-5.3 承载流量最高提升 63%,Qwen3.8-27B 单用户吞吐量提升 2 倍,DeepSeek V4.1 Flash 吞吐量提升 10%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。