NeMo Switchyard接入Bedrock按需选模型
热点事件持续更新
NeMo Switchyard接入Bedrock按需选模型
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
NVIDIA NeMo Switchyard 已可在 Amazon Bedrock 上按编码智能体的每个请求选择模型,并以任务通过测试时的成本评估路由效果。其 LiteLLM 集成支持 Stage 与 Random 两种路由策略,示例通过 AWS CDK 部署网关,再用基准运行器将路由模型组与单一模型基线进行比较。
AI 根据报道生成 · 24 分钟前更新
最新进展11月14日 06:30
使用 NVIDIA NeMo Switchyard 在 Amazon Bedrock 上为编码智能体请求选择合适模型报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- AWS Machine Learning Blog使用 NVIDIA NeMo Switchyard 在 Amazon Bedrock 上为编码智能体请求选择合适模型
NVIDIA NeMo Switchyard 可在 Amazon Bedrock 上按请求为编码智能体选择模型,并以每个通过测试的任务成本评估路由效果。其 LiteLLM 集成支持 Stage 与 Random 两种策略,示例通过 AWS CDK 部署网关,并用基准运行器比较路由模型组与单一模型基线。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。