Bonsai 2 9B登Mac解码榜首
热点事件持续更新
Bonsai 2 9B登Mac解码榜首
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
TheDavidTai 团队称，通过调优自定义 dflash2 runner，Bonsai 2 9B 在 mlx.fast 榜单上以投机解码取得 956.6 tok/s 解码速度和 6818 tok/s 预填充速度，较参考实现快 468%，登上 Mac 平台榜首。研究还提出构建按主题特化、缩减词表的投机草稿模型，以进一步提升推理速度。
AI 根据报道生成 · 2 小时前更新
最新进展10月21日 21:22
Bonsai 2 9B 在 Mac 上加速 468%，解码速度接近 1000 tok/s报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- AGI HuntBonsai 2 9B 在 Mac 上加速 468%，解码速度接近 1000 tok/s
TheDavidTai 团队通过自定义 dflash2 runner 调优，让 Bonsai 2 9B 在 mlx.fast 榜单上以投机解码达到 956.6 tok/s 解码、6818 tok/s 预填充，较参考实现快 468%，登上 Mac 平台榜首。研究还提出可构建按主题特化、缩减词表的投机草稿模型，以进一步提升推理速度。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。