Bonsai 2社区优化后推理显著提速
热点事件持续更新
Bonsai 2社区优化后推理显著提速
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
开源9B模型Bonsai 2在一周社区优化挑战中大幅提速：TheDavidTai团队在Mac（Apple Silicon/MLX）上达到约959 tokens/s、提升471%，在NVIDIA DGX Spark上提升421%。 团队通过深度调优自定义dflash2 runner并结合投机解码降低推理耗时，使Bonsai 2在mlx.fast榜单跑出接近1000 tokens/s的速度；上述增幅对应各自测试环境。
AI 根据报道生成 · 1 小时前更新
最新进展10月23日 07:04
开源模型 Bonsai 2 9B 社区挑战一周提速 6 倍报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- AGI Hunt开源模型 Bonsai 2 9B 社区挑战一周提速 6 倍
开源 9B 模型 Bonsai 2 经一周社区优化挑战显著提速，在 Mac（Apple Silicon/MLX）上提升 471%，达到约 959 tokens/s，在 NVIDIA DGX Spark 上提升 421%。TheDavidTai 团队通过深度调优自定义 dflash2 runner，并借助投机解码，使该模型在 mlx.fast 榜单跑出近 1000 tok/s。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。