日内瓦大学教授 François Fleuret 讽 Transformer 靠统计线索取胜而非真正理解

日内瓦大学教授、AI 研究者 François Fleuret 发推调侃 Transformer，认为模型并不真正理解对话内容，而是凭借对上下文的完美记忆与召回，抓住统计线索以最小化交叉熵、预测下一个词。他借此批评对交叉熵指标的迷信，引发模型是否具备真正理解的讨论。