跳到正文
AGI Hunt· xennygrimmato_·· 1 小时前AI 评分41

Echelon 优化器发布:较 Muon 提速至 10.5 倍

AI 导读

Evolving Machines 发布研究博客,推出 Muon 优化器的 rank-anchored 重构版 Echelon。Echelon 仅对顶部 r 维子空间做正交化并重缩放尾部奇异值,在保持 Muon 水平精度的同时实现最高 10.5 倍提速;团队还使用 Lean 形式化证明了 Echelon 与 Muon 的等价性。

来源:AGI Hunt · agihunt.info