Claude 为八款开源模型定制专属内核
热点事件持续更新
Claude 为八款开源模型定制专属内核
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
研究团队使用 Claude 为 8 个参数量介于 8B 至 594B 的开源模型分别编写专属 megakernel,以单个 GPU kernel 执行完整解码循环。团队称,相比 vLLM 或 SGLang,解码速度最高提升 1.77 倍;叠加模型专属技巧后,最高可达 2.05 倍。该方案不是构建通用推理引擎,而是为每个模型定制整体内核。
AI 根据报道生成 · 5 小时前更新
最新进展11月19日 16:39
Claude 为 8 个开源模型编写专属 megakernel,解码速度最高达 vLLM 的 1.77 倍报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AGI HuntClaude 为 8 个开源模型编写专属 megakernel,解码速度最高达 vLLM 的 1.77 倍
团队使用 Claude 为 8 个参数量介于 8B 到 594B 的开源模型分别编写专属 megakernel,以单个 GPU kernel 执行完整解码循环。其解码速度相比 vLLM / SGLang 最高提升 1.77×,叠加模型专属技巧后可达 2.05×。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月19日 18:00
- 近 24 小时变化
- –
02.557.510
18:0019:0020:0021:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。