AWS Machine Learning Blog· Alan Yao·· 2 小时前精选AI 评分78
Airbnb 如何用单任务成本运营 Amazon Bedrock 编码智能体
How Airbnb uses cost per task to operate coding agents on Amazon Bedrock
AI 导读
Airbnb 通过 Amazon Bedrock 运营编码智能体,并用自有任务评测、每项任务成本和 CloudWatch 指标选择模型及推理强度。评测会同时记录模型分数与单任务成本,上线后再按用户聚合请求量和支出,定位真实使用与评测结果的偏差。其模型 A 上线后每用户平均周支出增至前代模型的数倍,迁移到单任务成本约为六分之一的新模型后,重度用户首周支出降至约七分之一。
推荐理由
Airbnb 展示了如何结合自有任务评测、单任务成本与 CloudWatch 生产指标来选择模型、设置推理强度上限并控制开销。
来源:AWS Machine Learning Blog · aws.amazon.com