OVH发布自研LLM家族Olala
热点事件持续更新
OVH发布自研LLM家族Olala
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
法国云厂商OVH发布首个自研大语言模型家族Olala,首款Olala mini 7A1B总参数7B,每次推理仅激活约1B参数,可在8GB显存的GPU上运行。其采用Differential-TPA与Mamba-3混合注意力架构,上下文窗口为32K;OVH称,模型在RTX A4500上可达160 tokens/s,纯CPU运行可达50 tokens/s。 Olala mini 7A1B将以Apache系许可在Hugging Face开源上线,但目前公开信息仅说明其发布及性能数据,尚未给出基准测试方法或模型权重的实际上线状态。
AI 根据报道生成 · 1 小时前更新
最新进展11月17日 17:22
OVH 发布 Olala LLM 家族,首款 Olala mini 7A1B 可在 8GB 显存运行报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- AGI HuntOVH 发布 Olala LLM 家族,首款 Olala mini 7A1B 可在 8GB 显存运行
法国云厂商 OVH 发布自研 LLM 家族 Olala,首款 Olala mini 7A1B 总参数 7B,每层 256 个专家仅激活约 1B。模型采用 Differential-TPA 与 Mamba-3 混合注意力方案及 BF16 格式,在 RTX A4500 上可达 160 tokens/s,纯 CPU 可达 50 tokens/s,上下文窗口为 32K tokens。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。