跳到正文
热点事件持续更新

网友质疑OpenAI数学突破归因

2 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

OpenAI称模型在 log-perplexity 降至约 0.76 后开始取得突破性数学成果,但网友 stochasticchasm 认为,在缺少数据集和上下文长度等信息时,该指标无法单独证明预训练推动了数学突破,数学能力提升可能更多来自强化学习(RL),相关归因仍有争议。 Pedro Domingos随后转发OpenAI的模型困惑度曲线图,质疑其规模扩展收益,认为投入数百亿美元仅换来不到0.3 bits的困惑度改善,进一步引发对OpenAI相关性能叙事的讨论。

AI 根据报道生成 · 1 小时前更新

事件进展

2 个进展

  1. 11月23日 03:23 · 1 篇报道
    Pedro Domingos 质疑 OpenAI 图表中的 GPT-6 Astra 与规模扩展收益
    AGI Hunt:Pedro Domingos 质疑 OpenAI 图表中的 GPT-6 Astra 与规模扩展收益
  2. 11月23日 02:26 · 1 篇报道
    网友质疑OpenAI困惑度叙事
    AGI Hunt:OpenAI 困惑度叙事遭质疑:数学突破或源于 RL 而非预训练

报道时间线

沿着报道,了解事件的不同侧面。

11月23日
  1. AGI Hunt
    Pedro Domingos 质疑 OpenAI 图表中的 GPT-6 Astra 与规模扩展收益

    Pedro Domingos 转发一张 OpenAI 模型 log-perplexity 曲线图,并质疑数百亿美元投入只换来不到 0.3 bits 的困惑度改善。

  2. AGI Hunt
    OpenAI 困惑度叙事遭质疑:数学突破或源于 RL 而非预训练

    网友质疑 OpenAI 的困惑度叙事,认为模型取得突破性数学成果主要归功于 RL,而非预训练。OpenAI 博客称模型升级到 log-perplexity 约 0.76 后开始产出突破性数学成果,但脱离数据集、上下文长度等条件,困惑度数字很难说明问题。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。