跳到正文
热点事件持续更新

Kimi K3.1本地部署成本高且速度不及云端

1 篇报道1 个报道来源31 分钟前更新

先了解这件事

AI 综述

作者 Ravikant Agrawal 实测发现，Kimi K3.1 最小构建约需 594GB 权重，单台 512GB Mac Studio 无法容纳；四台 Mac Studio 互联成本约 3.8 万美元，吞吐约 15 tok/s，低于 AntSeed 云端约 24 tok/s。按此次配置，本地部署不仅硬件投入更高，实际生成速度也未占优。 Kimi K3.1 Pro 的权重进一步增至 1.56TB，仅满足内存需求就需约四台顶配 M5 Ultra Studio，成本约 9.1 万美元。作者近几个月也以相同方式测试了 DeepSeek V4.1 Flash、MiniMax M3.1 等开源权重模型，用于比较本地硬件门槛、集群性能及改用云端算力的性价比。

AI 根据报道生成 · 19 分钟前更新

最新进展11月10日 18:23
开源模型本地部署算账：Kimi K3.1 权重 594GB，四台 Mac Studio 仅 15 tok/s

报道时间线

沿着报道，了解事件的不同侧面。

11月10日
  1. AGI Hunt
    开源模型本地部署算账：Kimi K3.1 权重 594GB，四台 Mac Studio 仅 15 tok/s

    Kimi K3.1 本地部署的最小构建约 594GB，单台 512GB Mac Studio 无法容纳。四台 Studio 互联成本约 $38k，吞吐约 15 tok/s，低于 AntSeed 云端约 24 tok/s；Kimi K3.1 Pro 权重达 1.56TB，仅内存约需 $91k 的四台顶配 M5 Ultra Studio。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。