Ly 与 Gong 研究：初始权重相差 10 个数量级，深度网络仍在约 3% 输入上分歧

Ly 与 Gong 的研究解释了深度学习为何对微小扰动敏感：两个神经网络初始权重相差 10 个数量级，训练后仍在约 2.9% 的输入上给出不同预测。实验以 SGD 训练含一半污染标签的手写数字 VGG 卷积网络，结果指向极细尺度上相互交织的初始点与类“蝴蝶效应”结构。