跳到正文
热点事件持续更新

Mixtral 8x7B的开源MoE影响延续

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Mistral于2023年12月发布Mixtral-8x7B-Instruct-v0.1,被报道为首个开源8x7B稀疏MoE模型:每个token激活2个专家,约有13B参数参与计算。其Hugging Face页面累计下载超过2400万次、获得4700多个赞。 开发者Victor Mustar称,自己仍会每月想起Mixtral;这一首个开源8x7B稀疏MoE模型的影响力,更多体现为后续持续关注与下载热度。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. AGI Hunt
    开发者每月怀念 Mixtral 8x7B:首个开源 MoE 模型的余温

    开发者 Victor Mustar 每月都会想起 Mistral 于 2023 年 12 月发布的 Mixtral-8x7B-Instruct-v0.1。作为首个开源的 8x7B 稀疏 MoE 模型,它每个 token 激活 2 个专家、约 13B 激活参数,HF 页面累计下载超 2400 万并获 4700+ 赞。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。