Flint int4本地推理速度领先Qwen
热点事件持续更新
Flint int4本地推理速度领先Qwen
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
_rockt公布Mac mini实测：Flint以int4运行Qwen3.6-35B时，1K至20K上下文的解码速度为122.6至90.9 tok/s，均比4bit Qwen3.6-35B-A3B快约25%—34%。 在52个本地任务中，Flint完成50个，中位耗时2.8秒；Qwen开启thinking后同样完成50个，但中位耗时10.1秒。关闭thinking的Qwen完成46个，数学任务仅通过2/8。
AI 根据报道生成 · 1 小时前更新
最新进展10月22日 18:35
Flint int4在Mac mini运行Qwen3.6-35B的实测：解码最高122.6 tok/s报道时间线
沿着报道，了解事件的不同侧面。
10月22日
- AGI HuntFlint int4在Mac mini运行Qwen3.6-35B的实测：解码最高122.6 tok/s
Flint以int4在Mac mini上运行Qwen3.6-35B时，解码速度最高达到122.6 tok/s，比4bit Qwen3.6-35B-A3B快约25%–34%。在52个本地任务中，Flint与开启thinking的Qwen3.6均取得50/52，但Flint中位耗时为2.8s，Qwen为10.1s；关闭thinking后Qwen仅完成46/52，数学任务降至2/8。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。