JacquesThibs谈预训练与RL的能力分工
热点事件持续更新
JacquesThibs谈预训练与RL的能力分工
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
JacquesThibs认为,预训练负责将概念固化为清晰表征并精确存储事实,由此决定模型的能力下限;强化学习(RL)则利用这些能力进行激发,帮助模型完成复杂的长程任务,进一步提升能力上限。 按这一观点,预训练与 RL 共同决定模型表现,RL 是在预训练所建立能力基础上的上限拓展。
AI 根据报道生成 · 44 分钟前更新
最新进展11月23日 04:43
JacquesThibs 论预训练与 RL 分工:预训练定下限,RL 提上限报道时间线
沿着报道,了解事件的不同侧面。
11月23日
- AGI HuntJacquesThibs 论预训练与 RL 分工:预训练定下限,RL 提上限
JacquesThibs 认为,预训练将概念固化为更清晰的表征并精确存储事实,决定模型能力下限;RL 则利用这些能力进行激发,以完成复杂的长程任务。预训练与 RL 共同决定模型天花板,RL 进一步提升上限。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。