跳到正文
AGI Hunt· code_star·· 7 小时前AI 评分25

RL 训练中的模型自创「填充 token」,研究者直呼好笑

AI 导读

code_star 观察到,模型在 RL 训练过程中会自行寻找并使用专属的「填充 token」(filler tokens)。这一非预期行为模式被研究者形容为非常有趣,也折射出模型在 RL 训练中可能出现出人意料的自发策略。

来源:AGI Hunt · agihunt.info