跳到正文
AGI Hunt· BenBajarin·· 2 小时前AI 评分39

苹果曝新应用 Harbor:多台 Mac 雷电5组集群跑本地 AI 推理

AI 导读

苹果正据爆料开发 Harbor 应用,可将多台 Mac 通过 Thunderbolt 5 组成私有 AI 推理集群。该应用可在 Apple Silicon 上本地运行开源权重模型,并池化统一内存,以运行单机难以承载的大模型并提升并发。用户无需命令行或基础设施经验,部署仅需几分钟,并可直接在应用内浏览、下载和加载权重模型。

来源:AGI Hunt · agihunt.info