跳到正文
AGI Hunt· kalyan_kpl·· 2 小时前AI 评分62

Liquid AI 发布 RIPL 推理引擎,端到端延迟低于 50ms

AI 导读

Liquid AI 官方发布面向实时工作负载的 RIPL 推理引擎,将 LFM 模型嵌入搜索、广告、风控、推荐和支付等请求链路。RIPL 端到端生成响应低于 50ms,在持续峰值负载下保持低延迟,并让 LFM 最高加速 20 倍,同时支持多模态 LFM 与 d1 决策模型。

来源:AGI Hunt · agihunt.info