跳到正文
AGI Hunt· AKAMA199·· 3 小时前AI 评分64

293B 记忆原生 MoE 模型 MemT 1.0 开源

293B 记忆原生 MoE MemT 1.0 开源:记忆写进前向传播内部

AI 导读

团队发布并开源 293B 参数的记忆原生 MoE 架构 MemT 1.0,通过 memory attention 在标准前向传播中直接读写和更新持久记忆状态,无需外挂向量库、梯度更新或 Agent 编排。

来源:AGI Hunt · agihunt.info