跳到正文
热点事件持续更新

MemT-1.0尝试用参数记忆提升长历史推理

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

MemT-1.0 号称通过门控 DeltaNet-2 与 mixture-of-storage(MoS),将智能体经验写入模型参数;在 128K 历史长度下,其公布的端到端推理速度提升 1.86 倍、持久存储减少 66 倍,但实际效果仍待第三方验证。 该方案采用两阶段流程,共使用 34B token。其公布的参数记忆档位在 MemBench、LocoMo 上分别得分 73.5、65.1,高于其对 doc-to-lora、MemoryLLM 等旧方案通常为 20%—30%的描述;开发者还称该方法可在吸收领域经验时保留基座模型的通用推理能力。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. AGI Hunt
    MemT-1.0 号称以参数记忆实现 RAG 级准确率:128K 历史下推理提速 1.86 倍

    MemT-1.0 号称通过门控 DeltaNet-2 与 mixture-of-storage(MoS)将智能体经验内化进模型参数记忆,在 128K 历史长度下推理提速 1.86 倍、持久存储减少 66 倍。其 MemBench 得分 73.5、LocoMo 得分 65.1,训练共使用 34B token。该方案实际效果尚待第三方验证。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。