Qdrant实测向量量化与重排取舍
热点事件持续更新
Qdrant实测向量量化与重排取舍
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Qdrant官方博客以460万向量实测显示,集合超出内存后可启用量化,将RAM占用从12 GiB降至4 GiB,但重排需从磁盘读取全精度原始向量,延迟由4.1毫秒升至43.4毫秒。 配置上,bits4以8倍压缩被作为多数负载的默认起点;1-bit量化若不重排,召回率仅0.605,启用4倍过采样后回升至0.988,接近float32基线,向量体积约为其1/32。量化是在原件旁增加压缩副本,修改datatype为float16或turbo16则会直接改变原件。
AI 根据报道生成 · 1 小时前更新
最新进展11月2日 22:00
Qdrant 向量库量化实测:RAM 从 12 GiB 降至 4 GiB,rescoring 延迟升至 43.4ms报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- AGI HuntQdrant 向量库量化实测:RAM 从 12 GiB 降至 4 GiB,rescoring 延迟升至 43.4ms
Qdrant 官方博客以 460 万向量实测展示向量库内存溢出后的量化方案。RAM 从 12 GiB 降至 4 GiB 时,rescoring 延迟从 4.1ms 增至 43.4ms,原因是从磁盘读回全精度原始向量。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。