开发者展示 LLM prompt caching 高缓存命中率，推理成本大幅下降

开发者 sujingshen 分享 LLM 请求缓存命中率截图，显示 prompt caching 生效后，大部分输入 token 可按约原价 10% 的缓存价格计费。该机制尤其适合长上下文和重复系统提示词场景，可显著降低推理成本。