Lorenz Research称Kimi K3在AMD MI355X上推理吞吐领先B300
热点事件持续更新
Lorenz Research称Kimi K3在AMD MI355X上推理吞吐领先B300
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Lorenz Research发布测试称,其对Kimi K3的agentic推理进行内核、KV缓存、通信和投机解码等端到端优化后,在单节点8张AMD MI355X上达到23,330 tok/s/GPU;按SemiAnalysis InferenceX AgentX基准重放真实编码agent会话的结果,吞吐较NVIDIA B300高86%。 按测试采用的GPU时价计算,MI355X为每小时1.50美元、B300为2.26美元,MI355X每美元可生成token数为5600万,是B300的2.80倍。Lorenz Research还称,优化后模型质量几乎不变,并通过Kimi K3 Verifier测试。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 12:20
Kimi K3 在 AMD MI355X 上跑出 23,330 tok/s/GPU,吞吐较 NVIDIA B300 高 86%报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- AGI HuntKimi K3 在 AMD MI355X 上跑出 23,330 tok/s/GPU,吞吐较 NVIDIA B300 高 86%
博客称,Kimi K3 经端到端优化后在 AMD MI355X 上达 23,330 tok/s/GPU,领先 NVIDIA B300 86%。Lorenz Research 表示,按 GPU 时价计算,每美元 token 数为 56.0M,是 B300 的 2.80 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。