跳到正文
AWS Machine Learning Blog· Sai Pavan Kasani·· 2 小时前AI 评分71

Amazon Bedrock 四项推理配置如何影响成本

Four Amazon Bedrock inference choices that affect cost

AI 导读

Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 会在不更换模型或提示词的情况下改变推理成本。Claude Sonnet 5 与 Opus 5 的 1 小时缓存写入价为输入价格的 2 倍,缓存读取价为 0.1 倍;Claude Opus 5 从 low 调至 high 后,智能体测试的中位输出 token 增加 169%。

来源:AWS Machine Learning Blog · aws.amazon.com