kalomaze 猜想：深度序列模型或可模拟低秩注意力 LoRA 训练行为

kalomaze 提出技术猜想：足够深的序列模型可能通过仅注意力的 rank-1 LoRA 等受限训练族，在对数概率偏移意义上模拟训练过程。该猜想还提出，序列模型或可经 KL 蒸馏逼近上下文学习表现。