AGI Hunt· kalyan_kpl·· 4 小时前AI 评分50
RLCD 后训练方法如何让模型置信度与实际正确率匹配
RLCD 后训练方法:让模型 90% 置信就真有 90% 正确率
AI 导读
Fastino 的博客介绍 RLCD 后训练方法,通过同时奖励决策正确性和不确定性表达准确,提升模型概率校准。训练流程包括收集已知结果样本、生成概率分布、依据 Brier score 更新策略,并在未见数据和部署数据上验证与再校准。校准后的概率可用于判断哪些决策可自动化,以及哪些不确定样本需要升级给人工审核。
来源:AGI Hunt · agihunt.info