AGI Hunt· Guiquan Sun·· 2 小时前AI 评分35
DeCert 框架无需参考答案评估生成式奖励模型的推理质量
DeCert 框架无需参考答案评估生成式奖励模型的论证质量
AI 导读
康涅狄格大学与 NEC Labs 的论文提出 DeCert(Decision Certificate Supervision),用于评估和改进生成式奖励模型(GenRM)的推理理由。该方法不只判断结果是否正确,还评估论证有效性与结论一致性,无需参考解释,并可产生更强的偏好监督信号。
来源:AGI Hunt · agihunt.info