AGI Hunt· _reachsumit·· 2 小时前AI 评分43
Octen-WebGR 用语言模型参数存储 2 亿网页,导航搜索显存成本仅为密集检索 1/40
Octen-WebGR 把 2 亿网页存进语言模型参数,导航搜索成本仅密集检索 1/40 显存
AI 导读
Octen-WebGR 将 2.01 亿网页索引存入语言模型参数,4B 版本在真实导航流量上完成评测。对有大量交互历史页面的未见查询,其首位命中率为 30.9%,高于密集检索器的 17.2%。单卡仅需 10GB 显存,而精确密集检索需 412GB;全部流量 top-1 准确率为 59.6%,高于密集检索的 46.5%。
来源:AGI Hunt · agihunt.info