热点事件持续更新

Google Cloud API Gateway支持流式端点

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Google Cloud 已为其轻量级 API Gateway 服务增加流式端点支持，开发者现在可以通过该网关处理 LLM 应用中的流式响应。由于此前网关不支持流式响应，相关开发者往往需要绕开网关、直连接口；新增能力后，模型路由和面向智能体的 API 等场景可以使用 API Gateway。

AI 根据报道生成 · 2 小时前更新

最新进展10月24日 00:30

沿着报道，了解事件的不同侧面。

10月24日

00:30
AGI Hunt
Google Cloud API Gateway 支持流式端点，可用于 LLM 路由
Google Cloud API Gateway 现已支持流式端点，开发者可通过该网关处理 LLM 应用中的流式响应。此前因网关不支持流式响应，开发者往往需要绕开网关直连接口。现在，模型路由和面向智能体的 API 等场景可以使用这一能力。

还没有足够的连续观测数据，暂不绘制趋势。