跳到正文
热点事件持续更新

中文API中转站折扣被缓存缺失抵消

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

报道称,部分中文 API 中转站虽提供 5—9 折价格,但多数未接通上游 prompt caching,长会话中的历史输入 token 仍按全价计费,折扣因此可能被额外 token 消耗抵消,长上下文成本甚至增至百倍量级。 开发者选择此类服务时,除价格外还需比较是否支持上游缓存及其计费方式,避免只用表面折扣估算实际成本。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. AGI Hunt
    中文 API 中转站打 5-9 折却无 prompt caching,长会话成本反增 100 倍?

    中文 API 中转站即使提供 5-9 折价格,多数也未打通上游 prompt caching,长上下文的输入 token 仍按全价计费。开发者应将缓存能力纳入选型比较,避免折扣被额外 token 消耗抵消。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。