MLX团队实测四机分布式运行816B模型
热点事件持续更新
MLX团队实测四机分布式运行816B模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Apple MLX团队报告称，已将一个816B参数模型分布部署到四台Mac Studio上完成推理测试，速度超过每秒36个token，并同步公开了部署方法和功耗测量数据。该结果展示了MLX在大参数模型分布式推理中的实测表现。
AI 根据报道生成 · 1 小时前更新
最新进展10月23日 21:03
Apple MLX 实测四台 Mac Studio 部署 816B 模型，每秒推理超过 36 token报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- AGI HuntApple MLX 实测四台 Mac Studio 部署 816B 模型，每秒推理超过 36 token
Apple 的 MLX 团队报告将一个 816B 参数模型分布部署在四台 Mac Studio 上，推理速度达到 36 tokens/秒以上。团队同时公布了部署方法与功耗测量数据，但每 token 成本仍未给出。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。