dlwh详解缩放定律拟合公式
热点事件持续更新
dlwh详解缩放定律拟合公式
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
dlwh 讲解了缩放定律的简化拟合公式 loss = E + A·compute^(-alpha),并将损失渐近线的拟合工作交给 Codex 完成。其中,E 表示损失随计算量增加趋近的下限,A 为尺度项;主要难点是在小模型阶段准确估计渐近线。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 01:59
Marin 作者详解 scaling law 公式,并让 Codex 代为拟合报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- AGI HuntMarin 作者详解 scaling law 公式,并让 Codex 代为拟合
Marin 作者 dlwh 详解 scaling law 的简化拟合公式,并将损失渐近线拟合工作交给 Codex 完成。拟合公式为 loss = E + A·compute^(-alpha),其中 E 是 loss 渐近下限、A 是尺度项;难点是在小模型阶段估计渐近线。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。