跳到正文
热点事件持续更新

论坛用户报告ChatGPT遗忘后编造

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

OpenAI开发者论坛一名发帖人称,Codex和ChatGPT在丢失既有上下文后,会用编造内容填补空白,甚至把歌词归入错误歌名;其发帖人强调这是个案观察而非基准测试,无法判断问题是否普遍。 发帖人认为,模型遗忘与编造属于不同的失败方式,其中编造出的错误答案因表达自信而更难被发现。目前该现象仅有论坛个案报告,尚不能据此认定两款产品普遍存在同一问题。

AI 根据报道生成 · 44 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. AGI Hunt
    OpenAI 论坛报告:ChatGPT 遗忘上下文后自信编造

    OpenAI 开发者论坛一篇长帖称,Codex 与 ChatGPT 丢失既有上下文后,会用编造内容填补空白,甚至将歌词归入错误歌名。发帖人表示这是个案观察而非 benchmark,无法判断普遍程度,但指出模型遗忘与编造的失败方式不同,后者更难被发现。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。