AGI Hunt· VoidAsuka·2026-11-22 12:16· 45 分钟前AI 评分38Inkling 2 Mini 在 RTX 5090 上用 vLLM 跑出 200 tok/sAI 导读开发者 @gaunernst 分享实测:在 RTX 5090 上用 vLLM 运行 Inkling 2 Mini,开箱生成速度达到 200 tokens/秒,并原生支持 NVFP4 量化。其思维链相比 Qwen 更简洁流畅,使用者称第一印象体验顺滑。来源:AGI Hunt · agihunt.infoNVIDIA 英伟达推理能力部署工程评测基准教程实践#教程/实践#评测/基准#部署/工程#推理查看事件全部后续