Speedy长上下文读速领先个人实测
热点事件持续更新
Speedy长上下文读速领先个人实测
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
一名Reddit本地部署用户称,在RTX 4090、128GB DDR5内存和Ryzen 9 7950X平台,以IQ3S量化运行Qwen3时,Speedy在60K、120K和198K上下文下的读入速度约为4400—4600 tok/s,是Avalon的约1.6倍、Strata的4倍以上。 该用户测得三者生成速度均约100 tok/s,Speedy仅快1%—7%;在198K上下文整轮交互中,Speedy耗时比Strata少72%、比Avalon少31%。这一结果来自单一用户、硬件和模型配置下的实测,尚不代表其他环境。
AI 根据报道生成 · 3 小时前更新
最新进展11月2日 05:49
Reddit 实测:Speedy 推理引擎读速比 Avalon 快 1.6 倍报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- AGI HuntReddit 实测:Speedy 推理引擎读速比 Avalon 快 1.6 倍
Reddit 用户实测显示,Speedy 推理引擎读入速度约为 Avalon 的 1.6 倍、Strata 的 4 倍以上。该测试使用 IQ3S 量化 Qwen3,在 60K、120K、198K 上下文下,Speedy 读速约为 4400-4600 tok/s,生成速度约 100 tok/s。198K 上下文整轮交互中,Speedy 比 Strata 快 72%,比 Avalon 快 31%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。