AGI Hunt· francoisfleuret·· 3 小时前AI 评分33
François Fleuret 自嘲:还在像 2013 年原始人一样排查梯度爆炸
François Fleuret 自嘲:还在像 2013 年原始人一样调梯度爆炸
AI 导读
François Fleuret 发推自嘲,训练大模型时仍在排查梯度爆炸这一数值稳定性问题,调侃自己像 2013 年的原始人。这番玩笑引发 AI 圈共鸣与讨论,也体现顶级研究者同样会遭遇基础训练难题。
来源:AGI Hunt · agihunt.info