TokenWing推理引擎及GUI发布
热点事件持续更新
TokenWing推理引擎及GUI发布
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
TokenWing团队开源发布推理引擎TokenWing及GUI壳Run My AI,可将MoE模型超过60%的路由专家卸载至SSD。用户实测显示,配备12GB显存和32GB DDR5内存的笔记本运行Ling 3.0 Flash 120B(MXFP4)时,解码速度达到45—50 tok/s。 作者提醒,项目仍处早期,自动调优功能尚未完善,用户需自行调整flags。引擎运行方式为只读,不写入SSD,因此不会损耗SSD寿命。
AI 根据报道生成 · 2 小时前更新
最新进展11月19日 11:44
开源推理引擎 TokenWing 发布,可将 60% 以上 MoE 专家卸载至 SSD报道时间线
沿着报道,了解事件的不同侧面。
11月19日
- AGI Hunt精选开源推理引擎 TokenWing 发布,可将 60% 以上 MoE 专家卸载至 SSD
开源推理引擎 TokenWing 及其 GUI 壳 Run My AI 发布,可将超过 60% 的 MoE 路由专家卸载到 SSD。用户实测中,12GB 显存加 32GB DDR5 的笔记本运行 Ling 3.0 Flash 120B(MXFP4),解码速度达到 45-50 tok/s。项目仍处于早期,autotuner 尚未完善,需要自行调整 flags;引擎只读不写,不会损耗 SSD 寿命。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。