斯坦福发布提示缩放定律论文
热点事件持续更新
斯坦福发布提示缩放定律论文
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
斯坦福团队发布论文《Hinted Scaling Laws》,提出利用截断、掩码和 logit 混合等“提示信息”,改善模型规模扩大时基准准确率的外推效果。仅用计算量不超过 10^20 FLOPs 的模型进行拟合,即可将 10^23 FLOPs 模型在 GSM8K 上 25.9% 的准确率预测到误差 3 个百分点以内;传统缩放定律使用同等数据时低估了 13 个百分点。相关代码与数据已开源。
AI 根据报道生成 · 2 小时前更新
最新进展11月3日 21:56
斯坦福提出 Hinted Scaling Laws:小模型零分时也能外推大模型准确率报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- AGI Hunt斯坦福提出 Hinted Scaling Laws:小模型零分时也能外推大模型准确率
斯坦福团队提出 Hinted Scaling Laws,通过截断、掩码和 logit 混合等特权信息,解决难基准近零分时无法外推的问题。仅用 ≤10^20 FLOPs 模型拟合即可预测 10^23 FLOPs 模型的 GSM8K 准确率,误差在 3 个百分点以内;代码与数据已开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。