跳到正文
热点事件持续更新

OpenAI公开预训练指标并倡议安全上限

3 篇报道1 个报道来源24 分钟前更新

先了解这件事

AI 综述

OpenAI科学家Jakub Pachocki发表《Perplexity and Intelligence》,首次公开内部预训练困惑度及每token平均交叉熵损失数据,并主张用这些指标比较不同实验室的模型进展。他提议前沿实验室在AI理解和监控能力达到特定里程碑前共同遵守安全上限,但目前这仍是行业倡议,尚无共同承诺落实。 Pachocki称,最快到2027年,基础预训练能力可能出现类似数学领域突破的“雪崩式”进展;同时警告预训练加速可能快于对齐与监控研究。

AI 根据报道生成 · 7 分钟前更新

事件进展

2 个进展

  1. 11月23日 01:23 · 1 篇报道
    Pachocki预测预训练进展或于2027年雪崩
    AGI Hunt:OpenAI 研究总监 Jakub Pachocki:2027 年或现基础预训练能力雪崩式突破
  2. 11月23日 01:03 · 2 篇报道
    公开预训练困惑度数据并倡议安全上限
    AGI Hunt:OpenAI公开预训练困惑度数据,提议设立行业安全上限

报道时间线

沿着报道,了解事件的不同侧面。

11月23日
  1. AGI Hunt
    OpenAI 研究总监 Jakub Pachocki:2027 年或现基础预训练能力雪崩式突破

    OpenAI 首席科学家 Jakub Pachocki 表示,最快到 2027 年,基础预训练进展可能出现类似数学领域的“雪崩”式突破。他以对数困惑度和每 token 平均交叉熵损失衡量下一 token 预测能力,同时警告预训练的全面加速可能快于对齐与监控研究的进展。

  2. AGI Hunt
    OpenAI 公开预训练困惑度数据,提议设立行业共同安全上限

    OpenAI 首席科学家 Jakub Pachocki 发表《Perplexity and Intelligence》,公开 OpenAI 内部预训练困惑度(cross-entropy loss)测量数据,并主张将这一指标用于跨实验室比较。他提议在理解并监控 AI 行为的能力达到特定里程碑前,各前沿实验室承诺不突破共同上限。

  3. AGI Hunt
    OpenAI公开预训练困惑度数据,提议设立行业安全上限

    OpenAI首席科学家Jakub Pachocki发表《Perplexity and Intelligence》,公开公司内部的预训练困惑度测量数据。文中主张以困惑度作为行业可共享的安全指标,并呼吁各机构据此设立共同安全上限,推动AI安全标准建设。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。