任务训练使神经网络权重形成聚类

FAU Erlangen-Nürnberg等机构团队在Frontiers in Cognition发表研究，发现不同学习任务会使训练中的神经网络趋向权重空间中与任务相关、可复现的聚类。对齐独立初始化的浅层网络隐藏单元后，同一数据集训练所得的权重结构更相似；研究还显示，SGD最初几次更新虽令模型准确率急剧上升、离初始权重位移很小，但这一过程并非结构中性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。