跳到正文
AGI Hunt· bravo_abad·· 52 分钟前AI 评分39

ReLU 分类器为何远离数据反而更自信:2019 年定理解释 softmax 置信度失真

ReLU 分类器离数据越远越自信:2019 年定理解释 softmax 置信度为何不可信

AI 导读

Jorge Bravo Abad 解读 2019 年定理:输入不受固定范围约束时,ReLU 分类器远离训练数据后的置信度趋向 100%。softmax 只比较已知类别的相对 logit,无法判断输入是否在训练分布内;面对未见的新物理过程仍会强行归类,熟悉度需另行度量,事后校准无法修复。

来源:AGI Hunt · agihunt.info