Cornell/IBM 新方法让循环 Transformer 跨递归共享 KV 缓存，节省 76-79% 内存

Yoav Artzi 团队的 BeNice 方法让循环 Transformer 在递归间共享 KV 缓存，5 次递归下节省 76-79% 上下文内存。在 150M-1B 参数规模上，LPT 及混合变体在 FineWeb-Edu 上将相对验证困惑度降低 1.12-1.82，并改善模型质量。