神经网络权重置换对称性研究：仅 2-4 次 SGD 更新即出现权重签名，偏移约 8%

一项神经网络权重置换对称性研究发现，模型在仅 2-4 次 SGD 更新后便出现权重签名，此时权重已偏移约 8%。Git Re-Basin 的对齐效果优于作者 2019 年的方法，但研究仅测试单隐藏层、三个相似数据集，且未展示吸引子（attractor）。