AGI Hunt· patloeber·· 4 小时前AI 评分53
Google Gemma 借助 Gemini 4 Argon 将 vLLM 推理速度提升 2.85 倍
Gemma 推理提速 2.85 倍:vLLM 上突破每秒 10.8 万 token
AI 导读
Google Gemma 团队借助 Gemini 4 Argon 辅助开发，将 gemma-4-E2B-it 在单张 A100 上的吞吐量从约 37,900 tokens/s 提升至 108,000+ tokens/s。
来源：AGI Hunt · agihunt.info