动态稀疏训练：不到 10% 突触性能反超稠密网络

dlevenstein 介绍其实验室的“动态稀疏训练”研究，网络在学习过程中交替进行常规学习与类似睡眠阶段的剪枝和突触再生。实验显示，仅使用不到 10% 突触的稀疏网络性能超过全连接的稠密网络，呈现受生物启发方法在效率与效果上的潜力。