跳到正文
热点事件持续更新

dlwh详解缩放定律拟合公式

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

dlwh 讲解了缩放定律的简化拟合公式 loss = E + A·compute^(-alpha),并将损失渐近线的拟合工作交给 Codex 完成。其中,E 表示损失随计算量增加趋近的下限,A 为尺度项;主要难点是在小模型阶段准确估计渐近线。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AGI Hunt
    Marin 作者详解 scaling law 公式,并让 Codex 代为拟合

    Marin 作者 dlwh 详解 scaling law 的简化拟合公式,并将损失渐近线拟合工作交给 Codex 完成。拟合公式为 loss = E + A·compute^(-alpha),其中 E 是 loss 渐近下限、A 是尺度项;难点是在小模型阶段估计渐近线。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。