高维损失地形可视化：为何局部极小值罕见、SGD 有效

danielrock 通过一张 SGD 可视化动图解释高维非凸损失地形中的优化现象：局部极小值其实非常罕见，鞍点和平坦区域更常出现。mini-batch 采样带来的随机性可帮助优化过程逃离这些区域，使 SGD 仍能有效训练深度模型。