跳到正文
AGI Hunt· npew·· 3 小时前AI 评分30

OpenAI 内部复盘:GPT-5 速度瓶颈源于 token 生成过多

OpenAI 内部复盘:GPT-5 太慢不是因为推理延迟,而是 token 生成太多

AI 导读

OpenAI 工程师复盘称,GPT-5 发布后的用户反馈集中在模型效果好但速度慢,排查发现瓶颈并非首字延迟(TBT),而是生成了过多 token。团队通过压缩输出长度降低体感延迟,以改善整个模型代际关注的 token 效率。

来源:AGI Hunt · agihunt.info