跳到正文
热点事件持续更新

vLLM首发支持MiniMax-M3.1-Flash

2 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

vLLM团队宣布为MiniMax-M3.1-Flash提供Day-0支持,覆盖NVIDIA Blackwell、Rubin(SM107)和AMD MI350系列GPU,可在发布后立即使用相关推理优化。 vLLM团队公布的SemiAnalysis AgentX基准结果显示,在启用KV offload、用户级P90吞吐为546 tok/s的交互条件下,Rubin NVL72单芯片总吞吐(含缓存命中)为GB300 NVL72的10.2倍;降至376 tok/s时仍为6.5倍,低并发下单用户P90速度最高达1205 tok/s。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月12日
  1. AGI Hunt
    vLLM Day-0 支持 MiniMax-M3.1-Flash,Rubin NVL72 吞吐提升 10.2 倍

    vLLM 团队宣布为 MiniMax-M3.1-Flash 提供 Day-0 支持,覆盖 NVIDIA Blackwell、Rubin(SM107) 与 AMD MI350 系列 GPU。

  2. AGI Hunt
    vLLM 实测:MiniMax-M3.1-Flash 在 Rubin NVL72 吞吐达 GB300 的 10.2 倍

    vLLM 团队公布 MiniMax-M3.1-Flash 在 NVIDIA Vera Rubin NVL72 上的推理实测,单芯片总吞吐达 GB300 NVL72 的 10.2 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。