AGI Hunt· theteknosaur·· 2 小时前AI 评分39
RL 过拟合模型与通用智能:同一任务的输出「质感」差异
同一个任务两种「质感」:RL 过拟合模型与通用智能的手感差异
AI 导读
两个模型执行同一任务时,一个明显偏向奖励模型偏好的“刷榜机器”形态,另一个则按需调用相关领域权重,输出纹理明显不同。这种对比反映了 RLHF/RLVR 后训练可能引发 benchmark 过拟合,以及通用能力与刷榜倾向之间难以直接判断的差异。
来源:AGI Hunt · agihunt.info