跳到正文
AGI Hunt· SergioPaniego·· 2 小时前AI 评分57

用 Codex(GPT 6.1 Sol)把 DeepSeek-V4.1-Flash 优化到 284+ tokens/s,提速 78.7%

用 GPT 6.1 Sol 把 DeepSeek V4.1 Flash 优化到 284+ t/s,提速 78.7%

AI 导读

开发者 alvarobartt 利用 Codex(GPT 6.1 Sol)的用量额度,花三天把 DeepSeek-V4.1-Flash 在 NVIDIA RTX PRO 6000(sm120)上从「vLLM 都跑不起来」优化到 284+ tokens/s。所有改动已开源,相比 vLLM v0.32.0 + DSpark 提速 78.7%,完整优化文章附在原文链接中。

来源:AGI Hunt · agihunt.info