跳到正文
热点事件持续更新

LeCun旧幻灯片断言自回归模型误差累积

1 篇报道1 个报道来源55 分钟前更新

先了解这件事

AI 综述

Yann LeCun 的一张旧幻灯片《Auto-Regressive Generative Models Suck!》近日再次流传,其中断言自回归大语言模型“注定失败”,无法保证事实性和可控性;若每个 token 的出错概率为 e,长度为 n 的回答正确率将按 (1-e)^n 指数衰减,因此他认为不经重大重新设计便难以解决。 这一判断引自该幻灯片援引的 Dziri 等人论文(ArXiv:2305.18654),并非 LeCun 此次提出的新论证。

AI 根据报道生成 · 38 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. AGI Hunt
    Yann LeCun 旧幻灯片断言自回归 LLM 注定失败,误差将指数级发散

    Yann LeCun 一张旧幻灯片《Auto-Regressive Generative Models Suck!》被翻出,断言自回归 LLM“注定失败”,无法保证事实性与可控性。若每个 token 的误差概率为 e,长度 n 的回答正确率按 (1-e)^n 指数衰减,且不经重大重新设计无法修复;幻灯片引用了 Dziri 等人的 ArXiv:2305.18654 论文。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。