研究者热议 Nesterov 论断：归纳偏置或让神经网络免于梯度训练

Google DeepMind 研究员 Lucas Beyer 回应 Nesterov 关于学习泛化的论断，称此前并不知道这一说法，并提出略带愿望色彩的反驳。他与 NYU 研究者 Jonas Geiping 进一步讨论归纳偏置与参数空间结构，认为若条件合适，神经网络或可无需依赖梯度更新，从而扭转原本悲观的结论。