网友质疑OpenAI数学突破归因
热点事件持续更新
网友质疑OpenAI数学突破归因
2 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
OpenAI称模型在 log-perplexity 降至约 0.76 后开始取得突破性数学成果,但网友 stochasticchasm 认为,在缺少数据集和上下文长度等信息时,该指标无法单独证明预训练推动了数学突破,数学能力提升可能更多来自强化学习(RL),相关归因仍有争议。 Pedro Domingos随后转发OpenAI的模型困惑度曲线图,质疑其规模扩展收益,认为投入数百亿美元仅换来不到0.3 bits的困惑度改善,进一步引发对OpenAI相关性能叙事的讨论。
AI 根据报道生成 · 1 小时前更新
最新进展11月23日 03:23
Pedro Domingos 质疑 OpenAI 图表中的 GPT-6 Astra 与规模扩展收益事件进展
2 个进展
- 11月23日 03:23 · 1 篇报道Pedro Domingos 质疑 OpenAI 图表中的 GPT-6 Astra 与规模扩展收益AGI Hunt:Pedro Domingos 质疑 OpenAI 图表中的 GPT-6 Astra 与规模扩展收益
- 11月23日 02:26 · 1 篇报道网友质疑OpenAI困惑度叙事AGI Hunt:OpenAI 困惑度叙事遭质疑:数学突破或源于 RL 而非预训练
报道时间线
沿着报道,了解事件的不同侧面。
11月23日
- AGI HuntPedro Domingos 质疑 OpenAI 图表中的 GPT-6 Astra 与规模扩展收益
Pedro Domingos 转发一张 OpenAI 模型 log-perplexity 曲线图,并质疑数百亿美元投入只换来不到 0.3 bits 的困惑度改善。
- AGI HuntOpenAI 困惑度叙事遭质疑:数学突破或源于 RL 而非预训练
网友质疑 OpenAI 的困惑度叙事,认为模型取得突破性数学成果主要归功于 RL,而非预训练。OpenAI 博客称模型升级到 log-perplexity 约 0.76 后开始产出突破性数学成果,但脱离数据集、上下文长度等条件,困惑度数字很难说明问题。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。