跳到正文
热点事件持续更新

用户称16 token补全等待近四分钟

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

用户cephaloform称,当前模型在对比两条仅16 token的补全请求时,约四分钟后才返回结果,认为推理延迟比预想更严重。 该情况来自用户在做研究样本效率相关问题时的个人使用体验,反映的是其单次请求所遇延迟,并非对所有模型或任务的普遍测量结果。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    用户吐槽模型响应变慢:16 token 对比请求要等约四分钟

    一名用户吐槽当前模型推理延迟严重:对比两条仅 16 token 的补全,结果约四分钟后才返回。他是在研究样本效率相关问题时发现这一情况,并认为问题比预想更深。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。