跳到正文
热点事件持续更新

Alexander与Pinker争论LLM扩展曲线

1 篇报道1 个报道来源42 分钟前更新

先了解这件事

AI 综述

Scott Alexander与Steven Pinker围绕LLM scaling曲线的形状展开争论,焦点是“指数级”与“幂律”能否描述同一过程。AGI Hunt梳理称,从渐近意义看,LLM扩展规律并非指数增长,而是收敛至噪声底的逆幂律。 这一结论需要区分测量对象:对模型损失而言,曲线是幂律下降;对能力、benchmark等下游指标而言,曲线可能呈指数状,因此最终判断取决于采用何种指标和口径。

AI 根据报道生成 · 21 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月9日
  1. AGI Hunt
    Scott Alexander 与 Steven Pinker 论战:LLM scaling 曲线是指数还是幂律

    Scott Alexander 与 Steven Pinker 就 LLM scaling 曲线展开争论,分歧集中于“指数级”与“幂律”能否描述同一过程。AGI Hunt 梳理指出,LLM 的 scaling laws 在渐近意义上是收敛于噪声底的逆幂律,而非指数。对损失而言是幂律下降,对能力、benchmark 等下游指标则可能呈指数状,关键在于测量口径。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。