跳到正文
热点事件持续更新

Gautam Goel分享Hera优化器研究

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Gautam Goel与Mahdi Soltanolkotabi、Peter Bartlett合作提出一阶优化算法Hera,并在回复同行时分享了相关arXiv论文。研究聚焦多层softmax自注意力网络进行线性回归时的梯度下降动力学,指出在无限数据极限下,该问题可转化为矩阵分解,Hera据此用于加速训练收敛。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. AGI Hunt
    Hera:利用矩阵分解几何加速 softmax 注意力训练收敛

    Gautam Goel 与 Mahdi Soltanolkotabi、Peter Bartlett 合作提出一阶优化算法 Hera,用于加速多层 softmax 自注意力网络在无限数据极限下的训练收敛。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。