跳到正文
热点事件持续更新

Speedy长上下文读速领先个人实测

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

一名Reddit本地部署用户称,在RTX 4090、128GB DDR5内存和Ryzen 9 7950X平台,以IQ3S量化运行Qwen3时,Speedy在60K、120K和198K上下文下的读入速度约为4400—4600 tok/s,是Avalon的约1.6倍、Strata的4倍以上。 该用户测得三者生成速度均约100 tok/s,Speedy仅快1%—7%;在198K上下文整轮交互中,Speedy耗时比Strata少72%、比Avalon少31%。这一结果来自单一用户、硬件和模型配置下的实测,尚不代表其他环境。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. AGI Hunt
    Reddit 实测:Speedy 推理引擎读速比 Avalon 快 1.6 倍

    Reddit 用户实测显示,Speedy 推理引擎读入速度约为 Avalon 的 1.6 倍、Strata 的 4 倍以上。该测试使用 IQ3S 量化 Qwen3,在 60K、120K、198K 上下文下,Speedy 读速约为 4400-4600 tok/s,生成速度约 100 tok/s。198K 上下文整轮交互中,Speedy 比 Strata 快 72%,比 Avalon 快 31%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。