模型可解释性工具逐层审查 44万神经元并分类

Chris Albon 分享一项模型可解释性实验，对全部 24 层、每层 12,288 个神经元逐一分类，共审查 442,368 个。结果显示 Supports 55,877 个、Opposes 334,965 个、Unclear 165,868 个、Incoherent 22,187 个，另有 56,508 个待测，judge error 为 0。