跳到正文
热点事件持续更新

OVH发布自研LLM家族Olala

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

法国云厂商OVH发布首个自研大语言模型家族Olala,首款Olala mini 7A1B总参数7B,每次推理仅激活约1B参数,可在8GB显存的GPU上运行。其采用Differential-TPA与Mamba-3混合注意力架构,上下文窗口为32K;OVH称,模型在RTX A4500上可达160 tokens/s,纯CPU运行可达50 tokens/s。 Olala mini 7A1B将以Apache系许可在Hugging Face开源上线,但目前公开信息仅说明其发布及性能数据,尚未给出基准测试方法或模型权重的实际上线状态。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. AGI Hunt
    OVH 发布 Olala LLM 家族,首款 Olala mini 7A1B 可在 8GB 显存运行

    法国云厂商 OVH 发布自研 LLM 家族 Olala,首款 Olala mini 7A1B 总参数 7B,每层 256 个专家仅激活约 1B。模型采用 Differential-TPA 与 Mamba-3 混合注意力方案及 BF16 格式,在 RTX A4500 上可达 160 tokens/s,纯 CPU 可达 50 tokens/s,上下文窗口为 32K tokens。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。