跳到正文
AGI Hunt· udmrzn·· 2 小时前AI 评分48

Qwen3.8-27B 用 21 天自研 CUDA 推理引擎:230M token 仍未跑赢 llama.cpp

Qwen3.8-27B 挑战 21 天自研 CUDA 推理引擎:230M token 仍未跑赢 llama.cpp

AI 导读

Qwen3.8-27B 在单张 RTX 3090 上用 21 天尝试构建超越 llama.cpp 的 CUDA 推理引擎,最终未能达成性能目标。实验累计处理 230M token,并由 DeepSeek Harness 协调 180 个 subagent,揭示持续软件工程能力与真正实现性能指标之间的差距。

来源:AGI Hunt · agihunt.info