MIT 学生提出 NextLat：为 GPT 增加预测下一隐状态的 MLP

MIT 学生 Jayden Teoh 与 Yacine 提出 NextLat，通过给 GPT 外挂小型 MLP 预测 Transformer 自身的下一层隐状态，改进 next-token Transformer 的训练目标。该方法将内部表示塑造成对未来关键信息的紧凑 belief state，以弥补其在 path-star 图等任务上的短板。推理时可丢弃 MLP，不增加部署成本。