Strata DualGPU开源双卡协同推理

开源项目 Strata DualGPU 让两块不同的 NVIDIA GPU 在仅 32GB 内存的 PC 上协同进行本地大模型推理，以缓解单卡显存不足。 其方案在层切分时将专家权重保留在 RAM 中，通过流水线窗口让两张卡同时工作，并支持自适应 VRAM/RAM 专家交换和 GPU 自动排序；现有信息未给出具体速度或显存占用表现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。