跳到正文
热点事件持续更新

Claude 为八款开源模型定制专属内核

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

研究团队使用 Claude 为 8 个参数量介于 8B 至 594B 的开源模型分别编写专属 megakernel,以单个 GPU kernel 执行完整解码循环。团队称,相比 vLLM 或 SGLang,解码速度最高提升 1.77 倍;叠加模型专属技巧后,最高可达 2.05 倍。该方案不是构建通用推理引擎,而是为每个模型定制整体内核。

AI 根据报道生成 · 5 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    Claude 为 8 个开源模型编写专属 megakernel,解码速度最高达 vLLM 的 1.77 倍

    团队使用 Claude 为 8 个参数量介于 8B 到 594B 的开源模型分别编写专属 megakernel,以单个 GPU kernel 执行完整解码循环。其解码速度相比 vLLM / SGLang 最高提升 1.77×,叠加模型专属技巧后可达 2.05×。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月19日 18:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。