跳到正文
AGI Hunt· CatAstro_Piyush·· 7 小时前AI 评分42

Hinton 反驳「LLM 只是预测下一个词」:能读懂全新编程语言

AI 导读

Hinton 认为,LLM 预测的是下一个 token,而非下一个词,因此原则上能理解可被 token 化的语言、图像、视频、声音等结构。他以模型正确解释一门全新且语法怪异的编程语言为例,主张这说明模型形成了真正的理解,单靠“预测下一个词”无法解释。

来源:AGI Hunt · agihunt.info