跳到正文
AGI Hunt· triynizzles1·· 3 小时前AI 评分39

RTX 8000 48GB 两年降价至 $2100,作者称其为家用跑大模型最优解

AI 导读

一位本地部署玩家分享两年使用对比:2024 年以 $2400 买入的 RTX 8000 48GB 现约 $2100,每 GB 显存成本低于 3090。RTX 8000 推理带宽为 672 GB/s、功耗为 265W,虽低于 3090,但可容纳更大模型与上下文;配合 strata,运行 gpt-oss-120b 时可达 390k 上下文、prompt 处理 850 t/s、生成 60-70 t/s。

来源:AGI Hunt · agihunt.info