跳到正文
AGI Hunt· dlevenstein·· 1 小时前AI 评分43

动态稀疏训练:不到 10% 突触实现超越稠密网络的性能

动态稀疏训练:仅用不到10%突触,性能反超稠密网络

AI 导读

一项动态稀疏训练研究让神经网络在学习过程中交替进行类似睡眠的剪枝与再生,使用不到 10% 的突触便取得优于稠密网络的性能。该方法还形成类似大脑皮层的连接基元,并在多任务学习上表现更好。

来源:AGI Hunt · agihunt.info