AGI Hunt· gnukeith·· 3 小时前AI 评分44
自托管 DeepSeek V4.1 Flash 实测：单会话 160 tokens/s，5 会话降至每会话 30-50 tokens/s
自托管 DeepSeek V4.1 Flash 实测：单会话 160 tokens/s，5 会话仅剩 30-50
AI 导读
gnukeith 分享了自托管 DeepSeek V4.1 Flash 的带宽表现，单会话进行高保真近无损量化推理时速度约为 160 tokens/s。若同时运行 5 个会话，每个会话速度降至 30-50 tokens/s，瓶颈仍受物理带宽限制。
来源：AGI Hunt · agihunt.info