Georgia Tech 研究熵与置信度辅助奖励提升小模型自我改进

Georgia Tech 研究熵与置信度辅助奖励，以区分同样正确推理轨迹的学习价值，提升小语言模型的自我改进与下游迁移。研究比较基于置信度与基于熵的 UID-Conj. 指标，并通过在线奖励增广及 Owen3-1.7B 上 30 步离线适配等实验验证其在有限监督下的效果。