8张P100实测Qwen3.8 Flash并发吞吐
热点事件持续更新
8张P100实测Qwen3.8 Flash并发吞吐
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
ILoveDangerousStuff2 在配备8张P100 PCIe的服务器上，用自编译llama.cpp运行Unsloth版Qwen 3.8 Flash Next Q4，测试结果为：16个并发槽位时，11并发下总吞吐量约80 tps；20个槽位、13并发时达到最佳约91 tps，但相邻并发区间仅约30 tps，显示吞吐对并发配置高度敏感。 该测试单并发生成约20–24 tps，prefill约400–500 tps；开启MTP后单并发生成升至约33 tps。结果仅对应上述Q4版本、硬件与运行环境，尚不能直接外推至其他模型或部署配置。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 07:09
8 张 P100 跑 Qwen3.8 Flash Q4：并发槽位数不同，吞吐量剧烈波动报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- AGI Hunt8 张 P100 跑 Qwen3.8 Flash Q4：并发槽位数不同，吞吐量剧烈波动
8 张 P100 PCIe 在自编译 llama.cpp 上运行 Unsloth 版 Qwen 3.8 Flash Next Q4 时，吞吐量随并发槽位数剧烈波动。16 槽位下在 11 并发时达到约 80 tps 峰值，最佳结果为 20 槽位、13 并发时约 91 tps，但前后区间仅约 30 tps。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。