Fleuret质疑Transformer仅凭统计线索预测
热点事件持续更新
Fleuret质疑Transformer仅凭统计线索预测
1 篇报道1 个报道来源56 分钟前更新
先了解这件事
AI 综述
日内瓦大学教授、AI研究者François Fleuret发文讽刺Transformer，认为模型并不真正理解对话内容，而是利用上下文记忆和召回抓住统计线索，通过最小化交叉熵来预测下一个词。他借此批评对交叉熵指标的迷信，也引发了对大模型是否真正具备理解能力的讨论。
AI 根据报道生成 · 44 分钟前更新
最新进展11月8日 14:55
日内瓦大学教授 François Fleuret 讽 Transformer 靠统计线索取胜而非真正理解报道时间线
沿着报道，了解事件的不同侧面。
11月8日
- AGI Hunt日内瓦大学教授 François Fleuret 讽 Transformer 靠统计线索取胜而非真正理解
日内瓦大学教授、AI 研究者 François Fleuret 发推调侃 Transformer，认为模型并不真正理解对话内容，而是凭借对上下文的完美记忆与召回，抓住统计线索以最小化交叉熵、预测下一个词。他借此批评对交叉熵指标的迷信，引发模型是否具备真正理解的讨论。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。