跳到正文
AGI Hunt· giffmana·· 3 小时前AI 评分23

Lucas Beyer 谈 Nesterov 论断:归纳偏置或能扭转悲观结论

AI 导读

Google DeepMind 研究员 Lucas Beyer 回应 Nesterov 关于学习泛化的论断,提出该悲观结论属于一般性判断。他认为,注入恰当的归纳偏置并合理组织参数空间后,实际结果可能远没那么悲观,而 Transformer 架构本身就体现了这种思路。

来源:AGI Hunt · agihunt.info