跳到正文
热点事件持续更新

Google研究者称2022年论文已回应scaling law争议

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

研究者 Anshul Kundaje 指出,近期关于 scaling law 的争议,其核心方法问题已由 Google 团队发表于 NeurIPS 2022 的论文《Revisiting Neural Scaling Laws in Language and Vision》提出。论文主张用损失外推效果而非最佳拟合参数评估 scaling law,因为最佳拟合参数未必能准确预测规模扩大后的表现。 该论文还发布了一个包含 90 个评测任务的数据集,供比较不同规模模型的表现。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. AGI Hunt
    Google 研究者指出:scaling law 争议早已被 NeurIPS 2022 论文点破

    Google 研究者指出,近期 scaling law 争议的核心论点已由 NeurIPS 2022 论文点明。《Revisiting Neural Scaling Laws in Language and Vision》主张用外推损失而非最佳拟合参数评估 scaling law,因为拟合最好的参数未必外推最准。论文还发布了包含 90 个评测任务的基准数据集。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。