LMCache 开放数据层 inviting 推理引擎接入

开源项目 LMCache 公开邀请各推理引擎接入其 AI 原生数据层，主张通过互联网传输 KV Cache，在目的地重新计算更慢或更贵时直接复用缓存，同时为长上下文推理提供缓存与计算分离的路径。 LMCache 将该数据层定位为开源、厂商中立且栈中立，并称接入可提升缓存命中率；这一效果来自项目方自身表述，目前没有第三方验证数据。

AI 根据报道生成 · 46 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。