vLLM首发支持MiniMax-M3.1-Flash
热点事件持续更新
vLLM首发支持MiniMax-M3.1-Flash
2 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
vLLM团队宣布为MiniMax-M3.1-Flash提供Day-0支持,覆盖NVIDIA Blackwell、Rubin(SM107)和AMD MI350系列GPU,可在发布后立即使用相关推理优化。 vLLM团队公布的SemiAnalysis AgentX基准结果显示,在启用KV offload、用户级P90吞吐为546 tok/s的交互条件下,Rubin NVL72单芯片总吞吐(含缓存命中)为GB300 NVL72的10.2倍;降至376 tok/s时仍为6.5倍,低并发下单用户P90速度最高达1205 tok/s。
AI 根据报道生成 · 1 小时前更新
最新进展11月12日 07:25
vLLM Day-0 支持 MiniMax-M3.1-Flash,Rubin NVL72 吞吐提升 10.2 倍报道时间线
沿着报道,了解事件的不同侧面。
11月12日
- AGI HuntvLLM Day-0 支持 MiniMax-M3.1-Flash,Rubin NVL72 吞吐提升 10.2 倍
vLLM 团队宣布为 MiniMax-M3.1-Flash 提供 Day-0 支持,覆盖 NVIDIA Blackwell、Rubin(SM107) 与 AMD MI350 系列 GPU。
- AGI HuntvLLM 实测:MiniMax-M3.1-Flash 在 Rubin NVL72 吞吐达 GB300 的 10.2 倍
vLLM 团队公布 MiniMax-M3.1-Flash 在 NVIDIA Vera Rubin NVL72 上的推理实测,单芯片总吞吐达 GB300 NVL72 的 10.2 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。