跳到正文
热点事件持续更新

JacquesThibs谈预训练与RL的能力分工

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

JacquesThibs认为,预训练负责将概念固化为清晰表征并精确存储事实,由此决定模型的能力下限;强化学习(RL)则利用这些能力进行激发,帮助模型完成复杂的长程任务,进一步提升能力上限。 按这一观点,预训练与 RL 共同决定模型表现,RL 是在预训练所建立能力基础上的上限拓展。

AI 根据报道生成 · 44 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月23日
  1. AGI Hunt
    JacquesThibs 论预训练与 RL 分工:预训练定下限,RL 提上限

    JacquesThibs 认为,预训练将概念固化为更清晰的表征并精确存储事实,决定模型能力下限;RL 则利用这些能力进行激发,以完成复杂的长程任务。预训练与 RL 共同决定模型天花板,RL 进一步提升上限。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。