四条神经网络误区逐一拆解：深度、训练损失、ReLU 与 Adam

内容逐一拆解四条神经网络误区：更深并不保证学得更好，低训练损失可能源于记忆训练集，ReLU 只能缓解梯度消失，Adam 也不总优于 SGD。神经网络容量、模型泛化、优化过程与实际训练表现需要结合判断。