跳到正文
AGI Hunt· Ibrahim Memon·· 2 小时前AI 评分49

UC Irvine 团队发布 LuthorSQL:7B 一次前向模型本地分流 SQL 查询,API 成本降 33%

7B 一次前向模型 LuthorSQL 本地分流 SQL 查询,API 成本降 33%

AI 导读

UC Irvine 团队发布 LuthorSQL,一款非自回归 7B 文本转 SQL 模型,通过一次前向预测筛选候选查询计划,不确定时再升级调用 LLM agent。该模型在 BIRD 隐藏测试集执行准确率达 68.03%,单 GPU 每题 0.84 秒;8-bit 量化后占用 9 GB,并在近半问题本地解答的情况下使 API 成本降低 33.3%。

来源:AGI Hunt · agihunt.info