研究者称ECHO类损失可绕开纯RL质疑
热点事件持续更新
研究者称ECHO类损失可绕开纯RL质疑
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
stochasticchasm在与YouJiacheng的讨论中提出,在强化学习(RL)过程中加入类似ECHO的监督式后训练(SFT)损失,不会受到针对纯RL“仅诱出能力”的批评,因为这种方法并非主张RL只能唤出基座已有能力。 该观点目前来自研究者之间的讨论,并非经过验证的研究结论;相关讨论还指出,老模型经过后训练后、以及困惑度(log ppl)较高的模型是否仍擅长网络安全任务,目前均无定论。
AI 根据报道生成 · 1 小时前更新
最新进展11月23日 02:56
ECHO 类 SFT 损失用于 RL:研究者称可规避“能力诱出”质疑报道时间线
沿着报道,了解事件的不同侧面。
11月23日
- AGI HuntECHO 类 SFT 损失用于 RL:研究者称可规避“能力诱出”质疑
stochasticchasm 在与 YouJiacheng 的讨论中提出,RL 过程中使用的 ECHO 类监督式后训练(SFT)损失不会受到纯 RL“仅诱出能力”的批评。该方法主张 RL 主要是诱出基座已有能力,而非教授新能力。相关讨论还指出,老模型后训练及高 log ppl 模型是否仍擅长 cyber 任务,目前均无定论。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。