Robert T. Lange 阐释 RNN 记忆机制：循环矩阵特征值与 LRU 环形初始化

Robert T. Lange 阐释 RNN 记忆机制，指出循环矩阵特征值 |λ| 接近 0 时网络几步内遗忘，接近 1 时可保持长期记忆。LRU（Linear Recurrent Unit）据此采用环形初始化破解这一难题。补充材料将讨论追溯至 Sompolinsky 等人 1988 年的混沌动力学论文，并衔接 2023 年 LRU 工作。