LIMe 方法省 15% 训练算力：让注意力头复用更早层的表示

T-Tech 团队在 EMNLP 2026 提出 LIMe（Layer-Integrated Memory），通过让注意力头复用更早层的表示，在约 10 亿参数模型上以少 15% 的算力达到与 LLaMA 基线相同的训练 loss。该方法在语言建模和多步推理基准上超过同类方法，并改善 token 可分性、缓解表示坍缩；官方实现已开源。