AGI Hunt· lateinteraction·· 1 小时前AI 评分38
TACHIOM 新增 HNSW 近似分配,加速无需 token ID 的 late-interaction 检索聚类
TACHIOM 新增 HNSW 近似分配:late-interaction 检索免 token ID 加速聚类
AI 导读
社区成员 Rohan 提交的 PR 让 TACHIOM 支持无需 token ID 的 HNSW 近似分配,可在 CPU 上以非批处理方式加速 late-interaction 检索聚类。该实现可替代 TAC 聚类,思路源自用索引加速近似分配取代精确聚类的相关论文实验。
来源:AGI Hunt · agihunt.info