ResMem 将检索知识蒸馏进参数记忆，推理时无需 RAG

McGill 等机构提出 ResMem，将检索证据离线蒸馏为参数化记忆，使冻结 LLM 在推理时无需在线 RAG。该方法通过加性 logit 残差记忆模块进行自蒸馏，仅更新该模块；在 Wikipedia 子集上的教师构建存储开销减少 94.7%，五个问答数据集上的平均 token F1 从 32.83% 提升至 34.48%。