跳到正文
AGI Hunt· google·· 1 小时前AI 评分46

Google 发布线性注意力架构 Muir:长上下文召回与训练速度双提升

Google 发布线性注意力架构 Muir:长上下文召回与训练速度双提升

AI 导读

Google 在 Hugging Face 发布线性注意力架构 Muir 的论文与模型,其核心设计是按敏感度(sensitivity)分配门控容量,配合 matched-filter 读出与稳定的并行更新。

来源:AGI Hunt · agihunt.info