AGI Hunt· giffmana·· 16 小时前AI 评分38
Grok 测算 Kimi K3.1 Pro 本地部署成本:需 18-32 张 H100,“本地”说法具有误导性
Grok 算账:跑 Kimi K3.1 Pro 需 18-32 张 H100,叫「本地」是误导
AI 导读
Grok 测算 Kimi K3.1 Pro 的本地部署成本,指出将其称为“本地”具有误导性。该模型总参数 2.8T、激活参数 104B,即使量化仍需约 1.4-1.8TB 显存,相当于 18-32 张 H100,硬件成本为 50 万-200 万美元以上,云租赁约 $50/小时起。
来源:AGI Hunt · agihunt.info