跳到正文
AGI Hunt· ccerrato147·· 3 小时前AI 评分54

TheVixhal 发布 qwenGPU,将 SIMT GPU 编译内核嵌入 Qwen3.5-2B 权重

牛人把 SIMT GPU 塞进 Qwen 权重:45 层编译内核逐 token 自己写 CUDA

AI 导读

开发者 TheVixhal 发布 qwenGPU,将包含 45 层编译内核的 SIMT GPU 嵌入 Qwen3.5-2B 权重。宿主机先把内核编译为 PTX 并加载,随后由模型逐 token 生成每次 launch 所需的寄存器分配、分支和内存写入步骤。

来源:AGI Hunt · agihunt.info