跳到正文
热点事件持续更新

Marin开源Delphi模型扩展套件

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Marin团队发布并开源Delphi scaling套件,包含训练recipe、在TPU Research Cloud上训练的IsoFLOP模型套件,以及利用小模型预测大模型scaling law的方法;模型检查点、训练配比和配方也一并开放。 Marin称,Delphi将scaling law外推至300倍后,预测loss的误差仅为0.2%,用于减少直接训练超大模型的成本。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AGI Hunt
    Marin 开源 Delphi scaling 套件,scaling law 外推 300 倍后 loss 误差仅 0.2%

    Marin 团队发布并开源 Delphi scaling 套件,包含训练 recipe、在 TPU Research Cloud 上训练的模型,以及用小模型预测大模型的 scaling law。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。