AGI Hunt· saurabhtwq·· 4 小时前AI 评分53
Cloudy 用 Claude Code 自主调优内核,gpt-oss 解码性能超越 vLLM
Cloudy 用 Claude Code 自主调内核,gpt-oss-20b 解码提速 15% 跑赢 vLLM
AI 导读
Cloudy 使用 Claude Code 自主分析解码瓶颈,并仅依赖 torch 和 triton 重写 297 行 kernels.py,覆盖 RMSNorm、RoPE、split-KV 解码注意力与分组 MXFP4 MoE。
来源:AGI Hunt · agihunt.info