跳到正文
AGI Hunt· _reachsumit·· 3 小时前AI 评分36

ZeroGR:先过滤再评分,生成式推荐解码提速最高 9.9 倍

AI 导读

论文提出生成式推荐约束解码系统 ZeroGR,通过在评分前过滤无效 item 序列,减少传统生成、评分、过滤流程中的无效计算。实验显示,相比代表性基线,过滤加评分流水线最高加速 9.9 倍,同时降低索引显存占用并加快索引重建。

来源:AGI Hunt · agihunt.info