跳到正文
AGI Hunt· cneuralnetwork·· 3 小时前AI 评分42

一张图讲清 LLM API 按 token 计费的钱都花在哪

一张图讲清 API 按 token 计费的钱都花在哪

AI 导读

一张信息图拆解了 LLM API 调用按 token 计费的成本,覆盖输入 token 的 Prefill 计算、输出 token 的 Decode 计算和 KV cache 存储三部分。

来源:AGI Hunt · agihunt.info