AGI Hunt· qdrant_engine·· 3 小时前AI 评分68
Qdrant 向量库量化实测:RAM 从 12 GiB 降至 4 GiB,rescoring 延迟升至 43.4ms
向量库超出内存后延迟涨 10 倍,Qdrant 详解量化救 RAM 实测
AI 导读
Qdrant 官方博客以 460 万向量实测展示向量库内存溢出后的量化方案。RAM 从 12 GiB 降至 4 GiB 时,rescoring 延迟从 4.1ms 增至 43.4ms,原因是从磁盘读回全精度原始向量。
来源:AGI Hunt · agihunt.info