跳到正文
AGI Hunt· gowthami_s·· 4 小时前AI 评分38

组采样式强化学习技巧解读:小 K 过滤简单题,全错组持续采样放大稀有正样本

组采样RL技巧:小K过滤简单题,全错组持续采样放大稀有正样本

AI 导读

组采样式强化学习训练可通过较小的采样组大小 K=4 快速过滤简单题、节省算力,而 K=32 时仅错 1 个回答的简单 prompt 仍会保留并污染批次。当一组回答全部错误时,训练会以概率 p 持续采样直至出现正确答案,再将失败样本汇入大组,使稀有正样本的优势接近 1 而非被封顶。

来源:AGI Hunt · agihunt.info