AGI Hunt· stochasticchasm·· 2 小时前AI 评分18
ECHO 类 SFT 损失用于 RL:研究者称可规避“能力诱出”质疑
研究者:RL 中用 ECHO 类 SFT 损失可免受「仅诱出能力」质疑
AI 导读
stochasticchasm 在与 YouJiacheng 的讨论中提出,RL 过程中使用的 ECHO 类监督式后训练(SFT)损失不会受到纯 RL“仅诱出能力”的批评。该方法主张 RL 主要是诱出基座已有能力,而非教授新能力。相关讨论还指出,老模型后训练及高 log ppl 模型是否仍擅长 cyber 任务,目前均无定论。
来源:AGI Hunt · agihunt.info