Anthropic缓存档位与存储成本分析
热点事件持续更新
Anthropic缓存档位与存储成本分析
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
AGI Hunt 分析者 bigaiguy 认为，Anthropic Prompt Caching 设置 5 分钟和 1 小时两档，主要对应 GPU 显存与 CPU 内存不同的缓存持有成本；他用 100K token 的 Llama 3.3 70B 缓存估算，重读一次约需 0.05 美元、占用约 55 秒 H100 时间，缓存持有成本在 GPU 显存中约 4.5 分钟打平，在 CPU 内存中约 1.6 小时打平，SSD 则约需 2.2 天。该分析用于解释时长选项与存储层级的对应关系，并非 Anthropic 官方披露的定价或成本结论。
AI 根据报道生成 · 2 小时前更新
最新进展11月10日 06:28
Anthropic Prompt Caching 为何只有 5 分钟和 1 小时：GPU 与 CPU 存储成本账报道时间线
沿着报道，了解事件的不同侧面。
11月10日
- AGI HuntAnthropic Prompt Caching 为何只有 5 分钟和 1 小时：GPU 与 CPU 存储成本账
AGI Hunt 分析了 Anthropic Prompt Caching 仅设 5 分钟和 1 小时两档的原因，认为选项对应 GPU 显存与 CPU 内存的缓存成本。以 100K token 的 Llama 3.3 70B 缓存为例，重读一次约 $0.05、占用约 55 秒 H100 时间；缓存持有成本在 GPU 显存约 4.5 分钟、CPU 内存约 1.6 小时、SSD 约 2.2 天打平。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。