跳到正文
热点事件持续更新

双T4运行Qwen3.8-27B实测提速

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

作者 Ishannaik 在 Kaggle 免费双 T4 环境实测 Qwen3.8-27B：采用 EXL3 4.0bpw 量化、exllamav3、PCIe 张量并行及 DFlash2 块草稿器投机解码，整体吞吐达到 55—57 tok/s，约为无草稿器时 18—19 tok/s 的三倍。 该环境两张 T4 不支持 P2P，且每卡功耗上限为 70W。38 个提示词测试中，HumanEval 代码生成达到 154 tok/s，散文为 35—37 tok/s；同机 llama.cpp 最佳为 16.5 tok/s，vLLM int4 搭配自带 MTP 草稿器为 40.8 tok/s。

AI 根据报道生成 · 3 小时前更新

最新进展10月25日 22:54
双 T4 实测 Qwen3.8-27B：DFlash2 推理整体 55-57 tok/s，代码 154 tok/s

报道时间线

沿着报道，了解事件的不同侧面。

10月25日
  1. AGI Hunt
    双 T4 实测 Qwen3.8-27B：DFlash2 推理整体 55-57 tok/s，代码 154 tok/s

    作者在 Kaggle 免费 2x T4 上实测 Qwen3.8-27B 推理，采用 EXL3 4.0bpw 量化、exllamav3、PCIe 张量并行与 DFlash2 block drafter，整体达到 55-57 tok/s。

本事件热度走势

可比范围当前
9
可比范围峰值
1010月26日 00:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。