跳到正文
AGI Hunt· natolambert·· 1 小时前AI 评分36

Nat Lambert:RL 正在“烤干”模型多样性

RLHF 研究者 Nat Lambert:RL 正在「烤干」模型多样性

AI 导读

Nat Lambert 认为,强化学习后训练正使模型输出分布收敛,牺牲行为与风格多样性。他将这一现象形容为 RL 正在把模型“烤干”,指出这是当前后训练范式可能带来的副作用。

来源:AGI Hunt · agihunt.info