AGI Hunt· ccerrato147·· 3 小时前AI 评分54
TheVixhal 发布 qwenGPU,将 SIMT GPU 编译内核嵌入 Qwen3.5-2B 权重
牛人把 SIMT GPU 塞进 Qwen 权重:45 层编译内核逐 token 自己写 CUDA
AI 导读
开发者 TheVixhal 发布 qwenGPU,将包含 45 层编译内核的 SIMT GPU 嵌入 Qwen3.5-2B 权重。宿主机先把内核编译为 PTX 并加载,随后由模型逐 token 生成每次 launch 所需的寄存器分配、分支和内存写入步骤。
来源:AGI Hunt · agihunt.info