AGI Hunt· GabGarrett·· 47 分钟前AI 评分58
Apple NVIDIA Sidecar 开源,用 Mac Studio 与 RTX 5090 运行 Qwen3.8
Mac Studio 外接 RTX 5090 跑 Qwen3.8 达 210 tok/s,项目已开源
AI 导读
Apple NVIDIA Sidecar 将 Mac Studio(M5 Max 64GB)通过雷电扩展坞连接 RTX 5090,组成统一推理引擎。项目使用 NVIDIA 官方 FP4 权重运行 Qwen3.8 Flash-Next,单路解码约 210 tok/s,并公开了 8K 提示 prefill 速度、1至16 路并发输出及雷电链路带宽等实测数据。
来源:AGI Hunt · agihunt.info