跳到正文
热点事件持续更新

Prefixwise开源诊断提示词缓存未命中

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

No-Individual159 发布论文并以 MIT 协议开源 Prefixwise,用于诊断 AI 智能体工作流中的提示词缓存未命中,并定位具体原因。工具可通过代理、SDK 包装、LiteLLM 回调或 vLLM 中间件介入,按供应商的渲染顺序切分请求并归因到具体缓存块,而非单个 token。 Prefixwise 的评测基于真实 Claude Code 轨迹,以及向 vLLM、SGLang 生成对话注入的 1772 处改动;工具全部识别并正确归因,在 3622 条 append-only 轮次中没有误报。其账本仅保存哈希和计数,不保存提示词文本;在托管 API 上,TTL 过期和路由未命中只能通过排除法推断。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. AGI Hunt精选
    开源 Prefixwise 诊断 AI 智能体提示词缓存未命中并定位原因

    Prefixwise 通过代理、SDK 包装、LiteLLM 回调或 vLLM 中间件诊断 AI 智能体的提示词缓存未命中,并按供应商渲染顺序将请求切块归因。其评测向真实 Claude Code 轨迹和 vLLM/SGLang 生成对话注入 1772 处改动,全部被识别且归因正确,3622 条 append-only 轮次零误报。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月18日 16:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。