1Cat本地推理实测领先Strata
热点事件持续更新
1Cat本地推理实测领先Strata
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Reddit 用户 Acceptable_Bell_1791 在 4×16GB Tesla V100 上实测 Qwen3.8-Flash-Next UD-IQ3XXS 量化模型：加入专家缓存的 1Cat 单流解码速度为 125–143 tok/s，领先 Strata 及其分叉的 75–79 tok/s。 预填充方面，1Cat 在 2.6K–30K tokens 的中短提示下领先，如 2.6K 时为 1850 对 861 tok/s；但在 96.5K 长提示下，Strata 反超至 3384 对 2649 tok/s。Strata 的 MTP draft 接受率略高，约 0.6–0.7，但实测解码速度仍低于 1Cat。
AI 根据报道生成 · 24 分钟前更新
最新进展11月16日 01:49
4x V100 实测：1Cat 凭专家缓存解码 140 tok/s，碾压 Strata 的 75 tok/s报道时间线
沿着报道，了解事件的不同侧面。
11月16日
- AGI Hunt4x V100 实测：1Cat 凭专家缓存解码 140 tok/s，碾压 Strata 的 75 tok/s
Reddit 用户在 4x 16GB Tesla V100 上实测：1Cat 借专家缓存以 125-143 tok/s 单流解码，领先 Strata 及其分叉的 75-79 tok/s。模型为 Qwen3.8-Flash-Next UD-IQ3XXS 量化版；103K prompt 连跑三次，1Cat 从 99.9 升至 138.4 tok/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。