跳到正文
热点事件持续更新

AWS解析Bedrock四项推理成本设置

2 篇报道2 个报道来源2 小时前更新

先了解这件事

AI 综述

AWS研究人员Sai Pavan Kasani和Aswath Ram Srinivasan发布测试指南,说明在模型和提示词不变时,Amazon Bedrock的缓存时长、服务层级、推理强度和maxTokens仍会改变推理成本,并可通过响应元数据、日志和账单核验效果。 指南显示,Claude Sonnet 5和Opus 5的1小时缓存写入价为输入价的2倍、读取价为0.1倍;不支持的模型会抛出ValidationException,服务层级需按具体模型版本确认,且提示缓存不适用于批量推理。对延迟不敏感的批处理或评估任务,AWS称Flex档可降低成本,例如us-west-2的Nova 2 Lite价格约为Standard档一半。Claude Sonnet 5和Opus 5默认使用adaptive thinking,高推理强度的思考token按输出计费;Opus 5从low调至high后,智能体测试的中位输出token增加169%。maxTokens虽能限制支出,但截断多轮或智能体回复可能破坏后续步骤。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月13日
  1. AGI Hunt
    AWS 实测 Bedrock 成本优化四参数:缓存 TTL、Flex 档、思考力度与 maxTokens

    AWS ML Blog 发布 Bedrock 推理成本优化指南,说明在调整 Prompt 和应用逻辑后,缓存 TTL、Flex 档、思考力度与 maxTokens 仍会显著影响请求账单。

  2. AWS Machine Learning Blog
    Amazon Bedrock 四项推理配置如何影响成本

    Amazon Bedrock 的缓存时长、服务层级、推理强度和 maxTokens 会在不更换模型或提示词的情况下改变推理成本。Claude Sonnet 5 与 Opus 5 的 1 小时缓存写入价为输入价格的 2 倍,缓存读取价为 0.1 倍;Claude Opus 5 从 low 调至 high 后,智能体测试的中位输出 token 增加 169%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。