跳到正文
AGI Hunt· GabGarrett·· 47 分钟前AI 评分58

Apple NVIDIA Sidecar 开源,用 Mac Studio 与 RTX 5090 运行 Qwen3.8

Mac Studio 外接 RTX 5090 跑 Qwen3.8 达 210 tok/s,项目已开源

AI 导读

Apple NVIDIA Sidecar 将 Mac Studio(M5 Max 64GB)通过雷电扩展坞连接 RTX 5090,组成统一推理引擎。项目使用 NVIDIA 官方 FP4 权重运行 Qwen3.8 Flash-Next,单路解码约 210 tok/s,并公开了 8K 提示 prefill 速度、1至16 路并发输出及雷电链路带宽等实测数据。

来源:AGI Hunt · agihunt.info