跳到正文
AGI Hunt· TumbleweedNew6515·· 1 小时前AI 评分67

律师用12块 V100 部署 DeepSeek-V4.1-Flash,单流解码达184 tok/s

律师用12块2018年V100跑满血DeepSeek-V4.1-Flash,单流184 tok/s

AI 导读

一名律师将 V100 服务器从8卡升级至12张 V100-SXM2-32GB,用于部署 DeepSeek-V4.1-Flash,并把全部15,360个 routed experts 以 NVFP4 精度放入显存。

来源:AGI Hunt · agihunt.info