AGI Hunt· ombre-ai·· 1 小时前AI 评分35
OpenAI 论坛报告:ChatGPT 遗忘上下文后自信编造
OpenAI 论坛报告:ChatGPT 忘了上下文还会自信地编造
AI 导读
OpenAI 开发者论坛一篇长帖称,Codex 与 ChatGPT 丢失既有上下文后,会用编造内容填补空白,甚至将歌词归入错误歌名。发帖人表示这是个案观察而非 benchmark,无法判断普遍程度,但指出模型遗忘与编造的失败方式不同,后者更难被发现。
来源:AGI Hunt · agihunt.info