跳到正文
热点事件持续更新

自主系统优化大模型推理吞吐量

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Standard Kernel与CoreWeave展示了一套端到端优化大模型推理的自主系统,可自动调整引擎配置并定制GPU kernel,替代部分人工调优。 其测试显示,GLM-5.3承载的流量最高提升63%,Qwen3.8-27B的单用户吞吐量提升至原来的2倍,DeepSeek V4.1 Flash吞吐量提升10%。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. AGI Hunt
    Standard Kernel 与 CoreWeave 合作展示自主系统,自动优化 LLM 推理并使 GLM-5.3 流量最高提升 63%

    Standard Kernel 与 CoreWeave 合作展示自主系统,通过自动调优引擎配置和定制 GPU kernel 实现 LLM 推理端到端优化,替代人工调优。测试显示,GLM-5.3 承载流量最高提升 63%,Qwen3.8-27B 单用户吞吐量提升 2 倍,DeepSeek V4.1 Flash 吞吐量提升 10%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。