MoEShift开源后端让Mac卸载模型至SSD

开发者 davide-tro 发布面向内存受限 Apple Silicon Mac 的开源推理后端 MoEShift，通过 SSD offload，使配备 24GB 内存的 Mac 可运行 125B 模型。用户可用指定 Homebrew 命令安装，由向导完成模型选择与配置，运行所需条件是具备足够 SSD 空间。

AI 根据报道生成 · 20 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。