AGI Hunt· 1a3orn·· 3 小时前AI 评分38
重读 Dario Amodei「大算力团块」旧文:RL 分布无法教出可学的对齐
重读 Dario「大算力团块」旧文:RL 分布无法教出可学的对齐
AI 导读
重读 Dario Amodei 2017 年的 Big Blob of Compute 文章,文章认为当前模型错位的关键在于 RL 分布中缺乏连贯、可学习且一致的对齐行为课程。文中并列梳理 Dario 的乐观对齐观点:低熵宇宙为智能提供基础,充足算力与广泛任务分布可促使模型学习高层共性,而泛化被视为数据分布的属性而非算法的属性。
来源:AGI Hunt · agihunt.info