跳到正文
AGI Hunt· FrnkNlsn·· 4 小时前AI 评分30

费舍尔信息几何如何解释深度网络不违背奥卡姆剃刀

用费舍尔信息几何解释深度网络为何不违背奥卡姆剃刀

AI 导读

费舍尔信息几何解释了深度网络参数空间虽高维,却因大量参数在 null 曲线上退化而呈现较低实际复杂度,并不违背奥卡姆剃刀。Frank Nielsen 与 Ke Sun 的论文从 MDL 出发,以 Fisher 信息矩阵和奇异半黎曼几何推导 DNN 模型复杂度度量,为其良好泛化提供几何解释。

来源:AGI Hunt · agihunt.info