开源项目让Mac外接RTX协同推理
热点事件持续更新
开源项目让Mac外接RTX协同推理
1 篇报道1 个报道来源37 分钟前更新
先了解这件事
AI 综述
开发者 GabGarrett 开源 Apple NVIDIA Sidecar，将配备 M5 Max 64GB 的 Mac Studio 经雷电扩展坞连接 RTX 5090，组成统一推理引擎。项目用 NVIDIA 官方 FP4 权重运行 Qwen3.8 Flash-Next，作者实测单路解码约 210 tok/s。 该项目采用单会话服务，增加至 16 路并发时总输出仍约 61 tok/s；相关横向测试因测法不同仅可比较量级。复现仍有门槛：项目依赖作者本地修改的驱动，但该驱动未随仓库发布，使用者需自行解决。
AI 根据报道生成 · 23 分钟前更新
最新进展11月10日 21:11
Apple NVIDIA Sidecar 开源，用 Mac Studio 与 RTX 5090 运行 Qwen3.8报道时间线
沿着报道，了解事件的不同侧面。
11月10日
- AGI HuntApple NVIDIA Sidecar 开源，用 Mac Studio 与 RTX 5090 运行 Qwen3.8
Apple NVIDIA Sidecar 将 Mac Studio（M5 Max 64GB）通过雷电扩展坞连接 RTX 5090，组成统一推理引擎。项目使用 NVIDIA 官方 FP4 权重运行 Qwen3.8 Flash-Next，单路解码约 210 tok/s，并公开了 8K 提示 prefill 速度、1至16 路并发输出及雷电链路带宽等实测数据。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。