NRGPT 论文：让 GPT 推理显式建模为能量面下降

Andriy Burkov 介绍 NRGPT 论文，将 GPT 式的 next-token 预测改写为能量模型，把推理视为在能量地形上向更合理的 token 表示移动。研究设计保留 GPT 自回归结构的类 GPT 架构，以能量函数梯度更新 token 表示，并在 ListOps、莎士比亚文本和 OpenWebText 上与基线对比。