DeCert框架评估生成式奖励模型推理质量

康涅狄格大学与NEC Labs的论文提出DeCert（Decision Certificate Supervision）框架，用于评估和改进生成式奖励模型（GenRM）的推理理由，核心是不再只判断答案对错，还考察论证是否有效、结论是否一致，并可生成更强的偏好监督信号。 该方法无需参考解释，因而可直接用于生成式奖励模型的训练与改进，目标是提升其推理过程的质量。

AI 根据报道生成 · 47 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。