跳到正文
AGI Hunt· generativist·· 3 小时前AI 评分25

generativist:纠正模型刻板行为的 RL 成本巨大

「别再瞎搞哈希了」:网友吐槽纠正模型刻板行为的 RL 成本巨大

AI 导读

generativist 感叹纠正模型琐碎刻板行为的 RL 成本大得惊人,并以“do it now. stop with the hash nonsense”指令暗示训练需反复纠偏。这则讨论揭示了对齐训练中纠偏环节的隐性代价。

来源:AGI Hunt · agihunt.info