跳到正文
热点事件持续更新

Qwen3.8-Flash量化版在V100完成实测

1 篇报道1 个报道来源57 分钟前更新

先了解这件事

AI 综述

开发者 @unbug 实测 Qwen3.8-Flash 的 NVFP4 量化版本:在 V100 上搭配 Strata 推理框架,3K token 的 prefill 速度较快,输出细节一致性和连贯性也更好;相较 FP4-local、NVFP4 及 NVFP4+Q8 混合量化(GPTQ)方案表现更佳。 这仍是初步测试结果,@unbug 表示还需通过真实工作负载进一步验证,暂不能据此确认其在实际任务中的稳定表现。

AI 根据报道生成 · 44 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. AGI Hunt
    Qwen3.8-Flash NVFP4 量化版在 V100 上实测:prefill 速度快得惊人

    开发者 @unbug 实测 Qwen3.8-Flash 的 NVFP4 量化版本,在 V100 上搭配 Strata 推理框架实现快速 prefill,输出细节一致性与连贯性更好。其与 FP4-local、NVFP4 及 NVFP4+Q8 混合量化(GPTQ)配合效果更佳,3K token 的 prefill 表现突出,但仍需真实工作负载验证。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。