跳到正文
AGI Hunt· tomekkorbak·· 2 小时前AI 评分28

DeepMind 研究员指出 RL 竞赛的安全目标与能力提升错位

DeepMind 研究员吐槽:RL 竞赛本为安全,却在助推能力

AI 导读

DeepMind 研究员 tomekkorbak 调侃 Anthropic 联创 Eric Mitchell,指出本应互相拉高安全水平的“race to the top”,实际演变为各家比拼能力提升。他认为,这一现象暴露了 RLHF/RLVR 竞赛中安全与能力目标之间的错位。

来源:AGI Hunt · agihunt.info