AGI Hunt· JacquesThibs·· 1 小时前AI 评分28
JacquesThibs 论预训练与 RL 分工:预训练定下限,RL 提上限
JacquesThibs 论预训练与 RL 分工:前者定下限,后者提上限
AI 导读
JacquesThibs 认为,预训练将概念固化为更清晰的表征并精确存储事实,决定模型能力下限;RL 则利用这些能力进行激发,以完成复杂的长程任务。预训练与 RL 共同决定模型天花板,RL 进一步提升上限。
来源:AGI Hunt · agihunt.info