双显卡拆分本地大模型推理负载
热点事件持续更新
双显卡拆分本地大模型推理负载
1 篇报道1 个报道来源48 分钟前更新
先了解这件事
AI 综述
Reddit 用户 Techniboy 介绍了一种利用同一台机器中两块显卡运行更大本地模型的方法：在 llama.cpp 等工具中拆分推理负载，并将两块显卡的显存（VRAM）合并。作者以 RTX 5080 和 RTX 3080 组合完成配置，为升级显卡后继续利用旧卡提供了一种方案。
AI 根据报道生成 · 13 分钟前更新
最新进展11月9日 00:33
旧显卡别卖：双 GPU 合力跑本地大模型报道时间线
沿着报道，了解事件的不同侧面。
11月9日
- AGI Hunt旧显卡别卖：双 GPU 合力跑本地大模型
Reddit 用户提醒升级显卡后旧卡仍可利用：在同一台机器安装两块 GPU，使用 llama.cpp 等工具拆分推理负载，并将两块显卡的 VRAM 合并以运行更大的本地模型。作者使用 RTX 5080 + 3080 组合完成这一配置。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。