跳到正文
热点事件持续更新

Arimorcos发布精选数据预训练实验结论

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Arimorcos团队称,在预训练中精选高价值数据可获得相当于6倍算力的效率;其总参数12B、激活参数1.4B的模型仅使用最大基线模型五分之一的预训练算力,便击败了30B-A3B模型。该结论来自团队分享的实验,模型将直播展示相关细节。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月24日
  1. AGI Hunt
    Arimorcos 团队:精选数据相当于 6 倍算力,12B 模型以 1/5 预训练算力击败 30B-A3B

    Arimorcos 团队分享预训练实验结论:精选数据以 1/6 的算力匹配了最大基线模型。一个总参数 12B、激活参数 1.4B 的模型,仅用 1/5 预训练算力便击败 30B-A3B 模型,团队将于周二上午 10 点直播详解。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。