跳到正文
AGI Hunt· StephanSturges·· 4 小时前AI 评分64

tinygrad 发布家用运行 Kimi K3 方案,速度达 40 tok/s,硬件成本约 3 万美元

tinygrad 实现家用跑 Kimi K3:40 tok/s,全套成本约 3 万美元

AI 导读

tinygrad 发布可在本地运行 Kimi K3 的方案,交互速度达 40 tok/s,硬件成本约 3 万美元。Stephan Sturges 转发评论称,预计未来会有更多此类本地化部署实践。

来源:AGI Hunt · agihunt.info