跳到正文
AGI Hunt· _reachsumit·· 1 天前AI 评分59

Shopify 在 arXiv 发表 RoutingTrie,生成式检索 Hit@100 提升 28.6 个百分点

Shopify RoutingTrie:把元数据过滤前置到生成式检索解码,Hit@100 提升 28.6 个百分点

AI 导读

Shopify 团队在 arXiv 发表 RoutingTrie,将元数据过滤前置到生成式检索的 beam 选择阶段,以紧凑索引和字段探测合并掩码约束解码路径。生产回放中 Hit@100 从 67.5% 提升至 96.1%,延迟仅增加 1.1ms。团队还开源了 ShopTrie 合成基准生成器、基准脚本以及 CPU 和 Triton GPU 实现。

来源:AGI Hunt · agihunt.info