跳到正文
AGI Hunt· charles_irl·· 3 小时前AI 评分39

按实际 KV cache 命中计费引争议,OpenRouter 被指有刷量嫌疑

按实际 KV cache 命中计费存争议,OpenRouter 被指有刷量嫌疑

AI 导读

OpenRouter 被指因采用按实际 KV cache 命中计费,或有刷量嫌疑,相关讨论引发争议。Tinker 按理论命中(1 小时 TTL)计费,更接近 Anthropic 以显式 TTL 计算缓存保留的做法;作者认为,这种模式下命中率越高,服务商收入反而越少。另有观点指出,跨网络传输一份 KV cache 可能比重新计算更便宜、更快。

来源:AGI Hunt · agihunt.info