Prefixwise开源诊断提示缓存失效

Prefixwise开发者以MIT许可开源提示词缓存诊断工具Prefixwise，可通过`pip install prefixwise`部署在智能体与模型之间或嵌入vLLM，识别并解释19种Prompt缓存未命中原因，并自动修复常见问题。 工具可包装Claude、Codex等智能体，也支持本地代理、vLLM中间件、Python SDK及LiteLLM回调；开发者称，其在线修复在Claude和vLLM测试中分别实现预测节省的99.9%和97.5%，任务成功率不变。Prefixwise仅在本机保存提示词哈希与计数，并可在pytest或GitHub Action中运行智能体场景，发现缓存破坏时令CI失败。

AI 根据报道生成 · 20 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。