跳到正文
AGI Hunt· TumbleweedNew6515·· 3 小时前AI 评分70

4 张 Tesla V100 本地运行 DeepSeek-V4.1-Flash,解码速度达 36-38 tok/s

4 张 2017 年 V100 跑 DeepSeek-V4.1-Flash:解码 38 tok/s、512K 上下文

AI 导读

TumbleweedNew6515 记录了用 4 张 2017 年 Tesla V100 SXM2 32GB 和 256GB DDR4 内存本地运行 DeepSeek-V4.1-Flash 的方案与实测结果。

来源:AGI Hunt · agihunt.info