跳到正文
AGI Hunt· Techniboy·· 1 小时前AI 评分42

旧显卡别卖:双 GPU 合力跑本地大模型

AI 导读

Reddit 用户提醒升级显卡后旧卡仍可利用:在同一台机器安装两块 GPU,使用 llama.cpp 等工具拆分推理负载,并将两块显卡的 VRAM 合并以运行更大的本地模型。作者使用 RTX 5080 + 3080 组合完成这一配置。

来源:AGI Hunt · agihunt.info