跳到正文
热点事件持续更新

NeMo Switchyard接入Bedrock按需选模型

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

NVIDIA NeMo Switchyard 已可在 Amazon Bedrock 上按编码智能体的每个请求选择模型,并以任务通过测试时的成本评估路由效果。其 LiteLLM 集成支持 Stage 与 Random 两种路由策略,示例通过 AWS CDK 部署网关,再用基准运行器将路由模型组与单一模型基线进行比较。

AI 根据报道生成 · 24 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. AWS Machine Learning Blog
    使用 NVIDIA NeMo Switchyard 在 Amazon Bedrock 上为编码智能体请求选择合适模型

    NVIDIA NeMo Switchyard 可在 Amazon Bedrock 上按请求为编码智能体选择模型,并以每个通过测试的任务成本评估路由效果。其 LiteLLM 集成支持 Stage 与 Random 两种策略,示例通过 AWS CDK 部署网关,并用基准运行器比较路由模型组与单一模型基线。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。