预印本称 Transformer 为每个交互智能体单独构建信念表征

帝国理工学院的 Fernando Rosas 发布预印本《Beliefs in feedback: Factored representations of interacting agents in transformers》，称 Transformer 在预测多个交互智能体的行为时，会为每个智能体分别建立内部表征，用来追踪各自的信念状态；训练过程中这些内部表征逐渐收敛到理论上的信念状态单纯形。 论文报告的拟合结果显示，内部表征与理论信念状态的 R² 从 0.914 提升至 1.000，各智能体发射概率结构的 R² 达到 0.996，作者据此认为模型自发学到了分解式的信念表征。该说法为预印本作者提出的实验结论，论文尚未经同行评审。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。