跳到正文
热点事件持续更新

Janas与Colibri实测运行80B级MoE模型

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

用户 Chrono_Tri 实测开源工具 Janas 和 Colibri,验证了在迷你 PC 及 Colab L4 上运行 80B 级 MoE 模型的可行性。Janas 在配备 32GB 内存的 GMKtec M5 Plus 上可运行 Qwen3-30B-A3B,但几乎耗尽内存;其仅支持 Vulkan,在 Colab L4 上未占用 GPU,也可流畅运行需转换为 Janas 格式的 Qwen3-Next-80B-A3B,但约 10 万 token 长上下文编码可能无法胜任。 Colibri 仅支持 CUDA,本次未做本地测试;在 Colab L4 上,80B GGUF 模型占用约 19GB 显存即可运行。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. AGI Hunt
    Janas 与 Colibri 实测:在迷你 PC 和 Colab L4 上运行 80B 级 MoE 模型

    Janas 与 Colibri 实测展示了在迷你 PC 和 Colab L4 上运行 80B 级 MoE 模型的可行性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。