跳到正文
AGI Hunt· lateinteraction·· 1 小时前AI 评分38

TACHIOM 新增 HNSW 近似分配,加速无需 token ID 的 late-interaction 检索聚类

TACHIOM 新增 HNSW 近似分配:late-interaction 检索免 token ID 加速聚类

AI 导读

社区成员 Rohan 提交的 PR 让 TACHIOM 支持无需 token ID 的 HNSW 近似分配,可在 CPU 上以非批处理方式加速 late-interaction 检索聚类。该实现可替代 TAC 聚类,思路源自用索引加速近似分配取代精确聚类的相关论文实验。

来源:AGI Hunt · agihunt.info