mlx-serve提交跨机张量并行PR
热点事件持续更新
mlx-serve提交跨机张量并行PR
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
ivanfioravanti为mlx-serve提交PR，使DeepSeek-V4.1 Flash可通过--dist tensor在两台配备雷电5 RDMA的Mac上进行张量并行，此前该工具仅支持流水线并行。 在两台M3 Ultra与一台M3 Ultra的Lossless权重实测中，DSpark解码速度由56 tok/s提升至88 tok/s，增加57%。该方案采用mlx-lm的SPMD布局，每个rank分担专家中间宽度和注意力头，并通过JACCL求和输出；前缀缓存等单机功能仍可使用。
AI 根据报道生成 · 2 小时前更新
最新进展11月4日 09:10
mlx-serve 新 PR 支持两台 Mac 跨设备张量并行，DeepSeek 解码提速 57%报道时间线
沿着报道，了解事件的不同侧面。
11月4日
- AGI Huntmlx-serve 新 PR 支持两台 Mac 跨设备张量并行，DeepSeek 解码提速 57%
ivanfioravanti 为 mlx-serve 提交 PR，使 DeepSeek-V4.1 Flash 可通过 --dist tensor 在两台配备雷电 5 RDMA 的 Mac 上进行张量并行。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。