跳到正文
AGI Hunt· CShorten30·· 3 小时前AI 评分44

Weaviate 三年将索引 Go heap 内存占用从 9.9 GB 降至 1.4 GB

Weaviate 三年把内存占用从 9.9 GB 降到 1.4 GB,压缩算法迭代立功

AI 导读

Weaviate 工程师在 All-Hands 大会展示,同一基准下索引 Go heap 内存占用三年由 9.9 GB 降至 1.4 GB,约为原来的 1/7。基准含 1M 条 DBPedia 向量、OpenAI ada-002 1536 维和 HNSW k=10;压缩从 scalar quantization 升级至 rq8、rq4c,峰值由 14.6 GB 降至 2.2 GB。

来源:AGI Hunt · agihunt.info