跳到正文
热点事件持续更新

DAMI双轴记忆初始化论文发布

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

SpeedAI-Lab 与北航团队发布论文,提出 DAMI(Dual-Axis Memory Initialization,双轴记忆初始化)方法,用于改善门控线性循环模型的长上下文检索能力。 据该论文,DAMI 在训练前联合配置 decay 与 sensitivity 两个轴的参数,而不是分别调整;团队在 Gated Delta-Net 的受控实验中比较了不同初始化策略对近、中、远三种距离证据检索的影响,报告称该方法提升了长上下文检索表现。论文未给出具体数值与适用条件。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. AGI Hunt
    DAMI 论文:双轴记忆初始化提升门控线性注意力的长上下文检索

    SpeedAI-Lab 与北航团队发布 DAMI 论文,提出双轴记忆初始化方法,改善门控线性循环模型的长上下文检索能力。该方法在训练前联合配置 decay 与 sensitivity 两轴参数,并在 Gated Delta-Net 受控实验中比较不同初始化策略对近、中、远证据检索的影响。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。