跳到正文
AGI Hunt· _arohan_·· 2 小时前AI 评分39

新论文证明 Shampoo 优化器在非平稳优化中具有极小极大最优性

新论文证明 Shampoo 优化器在非平稳优化中具极小极大最优性

AI 导读

康奈尔大学 Abir Sarkar、Martin Wells 与 NC State 的 Nirmalya Mandal 证明 Matrix-Shampoo 在追踪时变最优点时具有极小极大最优性。论文推导平均追踪误差的高概率上界及匹配下界,并揭示 β₁、ε 在噪声与漂移主导场景下的权衡。团队还在 arXiv 公开研究,并在合成与真实问题上验证理论结论。

来源:AGI Hunt · agihunt.info