跳到正文
热点事件持续更新

TokenWing推理引擎及GUI发布

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

TokenWing团队开源发布推理引擎TokenWing及GUI壳Run My AI,可将MoE模型超过60%的路由专家卸载至SSD。用户实测显示,配备12GB显存和32GB DDR5内存的笔记本运行Ling 3.0 Flash 120B(MXFP4)时,解码速度达到45—50 tok/s。 作者提醒,项目仍处早期,自动调优功能尚未完善,用户需自行调整flags。引擎运行方式为只读,不写入SSD,因此不会损耗SSD寿命。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt精选
    开源推理引擎 TokenWing 发布,可将 60% 以上 MoE 专家卸载至 SSD

    开源推理引擎 TokenWing 及其 GUI 壳 Run My AI 发布,可将超过 60% 的 MoE 路由专家卸载到 SSD。用户实测中,12GB 显存加 32GB DDR5 的笔记本运行 Ling 3.0 Flash 120B(MXFP4),解码速度达到 45-50 tok/s。项目仍处于早期,autotuner 尚未完善,需要自行调整 flags;引擎只读不写,不会损耗 SSD 寿命。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。