AGI Hunt· maksym_andr·· 1 小时前AI 评分40
maksym_andr 主张:加强预训练比堆叠 RL 更有利于 AI 安全
研究者提反直觉主张:加强预训练比堆 RL 更有利于 AI 安全
AI 导读
研究者 maksym_andr 提出,差异化加强预训练可能比增加 RL 投入更有利于 AI 安全。其依据是安全与对齐属于模糊任务,依赖 OOD 泛化,而当前前沿模型受数学、编码 RL 过度优化影响;相比之下,预训练可提升后训练样本效率。
来源:AGI Hunt · agihunt.info