跳到正文
AGI Hunt· saurabhtwq·· 4 小时前AI 评分53

Cloudy 用 Claude Code 自主调优内核,gpt-oss 解码性能超越 vLLM

Cloudy 用 Claude Code 自主调内核,gpt-oss-20b 解码提速 15% 跑赢 vLLM

AI 导读

Cloudy 使用 Claude Code 自主分析解码瓶颈,并仅依赖 torch 和 triton 重写 297 行 kernels.py,覆盖 RMSNorm、RoPE、split-KV 解码注意力与分组 MXFP4 MoE。

来源:AGI Hunt · agihunt.info