AGI Hunt· sh_reya·· 3 小时前AI 评分64
CMU Full Stack Data Lab 开源 SQL 推理引擎 Quail
CMU 团队开源 Quail：SQL 内跑 LLM，平均比 vLLM 快 1.8 倍
AI 导读
CMU Full Stack Data Lab 开源了支持在 SQL 中运行 LLM 的推理引擎 Quail，采用 MIT 协议，目前有 171 个 stars。
来源：AGI Hunt · agihunt.info
CMU Full Stack Data Lab 开源 SQL 推理引擎 Quail