跳到正文
AGI Hunt· Longjumping-Elk-7756·· 2 小时前AI 评分50

双卡 Radeon R9700 本地运行 DeepSeek V4.1-Flash:8K 上下文解码达 49.1 tok/s

双卡 Radeon R9700 本地跑 DeepSeek V4.1-Flash:8K 上下文解码 49 tok/s

AI 导读

Reddit 用户分享了在 2× Radeon AI PRO R9700(单卡 32GB 显存、共 64GB)上本地运行 DeepSeek V4.1-Flash IQ2XXS 量化模型的实测结果。解码速度在 1K、4K、8K 上下文下分别为 28.4、31.3、49.1 tok/s,8K 开启 DSpark 后提升 52%。

来源:AGI Hunt · agihunt.info