AGI Hunt· gowthami_s·· 4 小时前AI 评分38
组采样式强化学习技巧解读:小 K 过滤简单题,全错组持续采样放大稀有正样本
组采样RL技巧:小K过滤简单题,全错组持续采样放大稀有正样本
AI 导读
组采样式强化学习训练可通过较小的采样组大小 K=4 快速过滤简单题、节省算力,而 K=32 时仅错 1 个回答的简单 prompt 仍会保留并污染批次。当一组回答全部错误时,训练会以概率 p 持续采样直至出现正确答案,再将失败样本汇入大组,使稀有正样本的优势接近 1 而非被封顶。
来源:AGI Hunt · agihunt.info