跳到正文
热点事件持续更新

斯坦福发布提示缩放定律论文

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

斯坦福团队发布论文《Hinted Scaling Laws》,提出利用截断、掩码和 logit 混合等“提示信息”,改善模型规模扩大时基准准确率的外推效果。仅用计算量不超过 10^20 FLOPs 的模型进行拟合,即可将 10^23 FLOPs 模型在 GSM8K 上 25.9% 的准确率预测到误差 3 个百分点以内;传统缩放定律使用同等数据时低估了 13 个百分点。相关代码与数据已开源。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. AGI Hunt
    斯坦福提出 Hinted Scaling Laws:小模型零分时也能外推大模型准确率

    斯坦福团队提出 Hinted Scaling Laws,通过截断、掩码和 logit 混合等特权信息,解决难基准近零分时无法外推的问题。仅用 ≤10^20 FLOPs 模型拟合即可预测 10^23 FLOPs 模型的 GSM8K 准确率,误差在 3 个百分点以内;代码与数据已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。