AGI Hunt· polkirichenko·· 54 分钟前AI 评分48
Meta SPoT 校准与泛化:模型学会对不可答问题弃答
SPoT 校准与泛化:模型学会对不可答问题弃答
AI 导读
Meta 的 SPoT 研究线程展示模型校准与泛化进展:用 RL 以 Brier score 为奖励训练答案正确概率预测后,置信度估计的 AUROC 从标准 RL 基线的 0.61 提升至 0.84。仅在可回答的数学题上训练,SPoT 仍能提升对不可答问题的弃答能力,并泛化到 BBQ、MoralChoices 等基准。
来源:AGI Hunt · agihunt.info