Fleuret 解读 teacher forcing：时间迭代换深度迭代

François Fleuret 两连发分析 teacher forcing 对 Transformer 架构的影响：借助 teacher forcing，模型可将中等大小状态在时间维度上的迭代，转换为巨大状态在深度维度上的迭代，以更好地适配 GPU 计算特性。代价是模型难以学习内部状态的动态，只能依赖逐 token 的推理方式。