跳到正文
热点事件持续更新

两阶段量化方案提升向量检索召回

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Sentence Transformers维护者Tom Aarsen分享了一套两阶段向量检索方案:先用int8量化索引进行粗召回,再用fp32或fp16浮点精度重打分,以降低量化造成的召回损失。 据其在140万张图片向量库上的实测,recall@100从97.24%提升至99.94%,服务端检索延迟约为2—15毫秒。该方案通过量化索引与浮点重打分结合,在降低存储和计算成本的同时改善召回效果。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. AGI Hunt
    Sentence Transformers 用 int8 粗召回与 fp32/fp16 重打分实现毫秒级向量检索

    Sentence Transformers 维护者 Tom Aarsen 分享了 int8 量化配合 fp32/fp16 重打分的两阶段向量检索方案,先用 int8 索引粗召回,再通过浮点精度重打分弥补召回损失。在 140 万张图片的向量库上,recall@100 从 97.24% 提升至 99.94%,服务端检索延迟约为 2-15ms。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月10日 01:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。