跳到正文
热点事件持续更新

CMU等提出统一训练基础模型算法

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

CMU联合Johns Hopkins与Aurora发表论文《Training Foundation Models with a Single Algorithm》,将预训练、监督微调和合适的强化学习目标统一为单一似然目标。论文的控制实验与真实实验显示,在总算力预算相同的情况下,该方法比分阶段训练获得更高准确率和任务覆盖,并能为持续学习提供更强的起点。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. AGI Hunt
    CMU 论文提出 unified training:预训练到后训练只用一个算法

    CMU 联合 Johns Hopkins 与 Aurora 的论文提出 unified training,将预训练、SFT 与合适的 RL 目标统一为单一似然目标。控制实验与真实实验显示,同等总算力预算下,该方法比分阶段训练获得更高准确率与任务覆盖,并为持续学习提供更强起点。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。