Reddit用户分享8卡R9700本地推理平台

Reddit用户NunzeCs分享了一套由8张AMD R9700显卡组成的本地推理平台，配备Threadripper 9955WX处理器、128GB DDR5-5600内存、Asrock WRX90 WS EVO主板，以及2200W和1600W双Seasonic电源。用户称，平台从4卡升级至8卡，主要为运行更大模型预留显存，目前使用QFN量化方案；试过GLM 5.3 Flash后，他个人更偏好QFN与radiance组合的体验。 该平台在Bifurcation卡连接6根延长线时仍有问题，用户计划购买retimer解决；机箱顶部还使用AliExpress廉价GPU支架加装三风扇辅助排风。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。